附录 A 术语表¶

Agent（智能体）¶

一种能自主感知环境、做出决策并执行行动的 AI 系统。在 LLM 语境下，Agent = LLM（决策器）+ 工具（能力扩展）+ 循环（多步执行），三者缺一不可。

Agent OS¶

一种将 Agent 运行时、记忆管理、工具调度、多 Agent 通信等基础设施抽象为操作系统级服务的架构理念，让 Agent 能像进程一样被管理、调度和持久化。

Agentic RAG¶

在标准 RAG（检索-生成）之上引入多步推理和工具调用能力：Agent 不仅检索一次，而是根据检索结果决定下一步——追问、搜索更多来源、调用计算工具等，最终综合多源信息生成答案。

Attention（注意力机制）¶

Transformer 的核心机制，让模型在处理每个 token 时能"关注"序列中其他 token，通过加权求和计算上下文表示。Attention Is All You Need（arXiv:1706.03762）标志着深度学习从 RNN 进入 Transformer 时代。

AutoGPT¶

2023 年早期开源的自主 Agent 项目，它让 LLM 循环调用工具（搜索、文件操作、代码执行）来实现用户设定的任意目标。AutoGPT 是 Agent 概念的"启蒙项目"，但其实际完成率受限于长上下文漂移和工具可靠性问题。

AutoGen¶

微软推出的多 Agent 对话框架，支持定义多个角色化 Agent 并通过对话协作完成任务。AutoGen 的核心设计是"对话即协作"——Agent 之间通过消息传递而非共享状态来协调。

BPE（Byte Pair Encoding，字节对编码）¶

一种子词分词算法，从字符级别开始，反复合并最高频的相邻 token 对，直到达到目标词表大小。GPT 系列和大多数现代 LLM 使用 BPE 或其变体进行分词。

BabyAGI¶

2023 年开源的任务驱动型 Agent 框架，核心思想是"任务队列 + 执行循环"——Agent 维护一个动态任务列表，每执行完一个任务就根据结果创建新任务或修改后续任务。与 AutoGPT 同年出现，共同点燃了 Agent 开源热潮。

Browser Use¶

一个开源的浏览器 Agent 框架，让 LLM 能通过 API 控制浏览器（点击、输入、导航、提取页面内容）。它通过将 DOM 树结构化为 LLM 可理解的文本格式来实现 Web 自动化。

Chain-of-Thought（CoT，思维链）¶

一种提示技术，引导 LLM 在给出最终答案前先生成中间推理步骤。CoT 能显著提升 LLM 在数学、逻辑推理等需要多步思考的任务上的表现。最早由 Wei et al.（arXiv:2201.11903）提出。

Chroma¶

一个开源向量数据库，专为 LLM 应用设计的嵌入式数据库。支持 embedding 存储和相似度检索，API 简洁，适合快速原型开发和小规模 RAG 应用。

Computer Use¶

Anthropic 在 Claude 中引入的能力，让 LLM 能直接操作计算机桌面——移动鼠标、点击、按键、读屏幕截图。这是一种视觉定位 + GUI 操作的新范式，使 Agent 能使用任何没有 API 的传统软件。

Computer-Using Agent（CUA）¶

OpenAI 推出的具备 Computer Use 能力的 Agent 模型，能理解屏幕截图、定位交互元素、执行点击和输入操作。CUA 是 Agent 从"纯文本 API"到"视觉 GUI 操控"的重要跨越。

Context Window（上下文窗口）¶

LLM 一次能处理的 token 数上限。上下文窗口决定了模型能"看到"多少信息（用户输入 + 历史对话 + 检索结果）。当前主流模型上下文从 8K 到 1M token 不等。

Copilot¶

GitHub 推出的 AI 编程助手，最初基于 OpenAI Codex 提供代码补全，后演进为支持聊天、多文件编辑、PR 生成的完整编程 Agent。Copilot 是代码 Agent 领域最具影响力的产品之一。

CrewAI¶

一个轻量级多 Agent 编排框架，强调"角色化 Agent"——每个 Agent 有特定角色（如"研究员"、"写作者"、"审核员"），通过任务委派协作。CrewAI 在开发者社区中普及度高，适合快速构建多 Agent 原型。

Cross-encoder（交叉编码器）¶

一种将两个文本片段拼接后送入 Transformer 做深度交互的模型架构，输出相似度分数。与 bi-encoder（独立编码再向量比较）相比精度更高但速度更慢，常作为 RAG 系统中的精排阶段（re-ranking）。

Cursor¶

一款 AI 原生 IDE（基于 VSCode），将 Composer Agent 内嵌到编辑器工作流中。Cursor 的核心创新是"代码语义图谱 + 原子化工具 + Composer 面板"三位一体，是目前代码 Agent 产品的标杆。

DPO（Direct Preference Optimization，直接偏好优化）¶

一种无需显式奖励模型的对齐方法，直接使用偏好数据（chosen vs rejected）通过二分类式损失函数优化策略模型。DPO 比 RLHF 更简洁——不需要训练单独的 Reward Model，只需偏好三元组。

Devin¶

Cognition 公司发布的"首位 AI 软件工程师"，是一个多 Agent 系统（Planner + Coder + Debugger）。Devin 能在云端自主完成读 issue、修代码、跑测试、提 PR 的完整软件工程流程。

Embedding（嵌入）¶

将文本、图像等非结构化数据映射到高维向量空间的表示方法。语义相近的内容在向量空间中距离更近。Embedding 是 RAG 和向量检索的核心基础。

Embodied AI（具身智能）¶

能在物理环境中感知、决策和行动的 AI 系统，通常与机器人硬件结合。具身智能让 Agent 从纯数字世界扩展到物理世界——操控机械臂、导航、操作物体。

Few-shot（少样本）¶

在 prompt 中提供若干输入-输出示例来引导 LLM 完成特定任务，而不更新模型权重。Few-shot 是在 zero-shot 不足以达成目标时最常见的 prompt 工程技巧。

FlashAttention¶

一种 IO 感知的精确注意力计算算法，通过分块（tiling）和重计算减少 HBM 读写次数。FlashAttention 使长序列训练和推理的速度提升 2-4 倍，是现代 LLM 推理引擎的关键技术。

Function Calling（函数调用）¶

LLM 输出结构化 JSON（而非纯文本）来请求调用外部工具的能力。模型输出包含函数名和参数，由运行时负责执行函数并将结果返回给模型。Function Calling 是 Agent 工具使用的基础机制。

GAIA¶

一个评测 Agent 通用能力的基准（Meta FAIR 发布），包含 466 个需要多步推理和工具使用的现实世界问题。GAIA 的设计哲学是：问题对人类容易（因为可以用搜索引擎和计算器）但对 LLM 困难，是衡量 Agent 系统实际能力的标杆。

Generative Agents（生成式 Agent）¶

Stanford 2023 年提出的模拟人类行为的 Agent 架构：每个 Agent 有记忆流、反思、计划三大模块，能在模拟小镇中自主生活。这是多 Agent 社会模拟的开创性工作。

Graph RAG¶

在 RAG 基础上引入知识图谱结构：将检索内容组织为实体-关系图而非扁平文本块，检索时沿关系路径递归获取上下文。Graph RAG 能回答需要多跳推理的复杂问题，但构建成本高于标准 RAG。

Guardrails（护栏）¶

用于约束 LLM 输出的规则、过滤器、验证器集合。护栏可作用于输入（防 prompt injection）、输出（格式校验、内容安全过滤）、以及行动权限（限制可调用的工具）。

HITL（Human-in-the-Loop，人在回路）¶

在 Agent 执行流程中引入人工审核或干预节点。关键决策（如执行有副作用的操作）需要人工确认后才执行，是 Agent 安全性的重要防线。

HNSW（Hierarchical Navigable Small World，分层可导航小世界）¶

一种高效的 ANN（近似最近邻）向量索引算法，通过分层图结构实现极快的检索速度。HNSW 是 Milvus、Qdrant、Chroma 等向量数据库的默认索引算法。

Hallucination（幻觉）¶

LLM 生成看似合理但不符合事实的内容的现象。幻觉的根本原因是 LLM 本质上是"基于统计分布的文本生成器"而非"知识库"。RAG 和 Agent 工具循环是缓解幻觉的主要工程手段。

Handoff（移交）¶

多 Agent 系统中将一个对话或任务从一个 Agent 转移到另一个 Agent 的机制。OpenAI Swarm 将 handoff 设计为一等公民——Agent 之间通过 function call 触发移交，实现角色切换。

HomeAssistant¶

一个开源智能家居平台，支持集成数千种 IoT 设备（灯光、传感器、开关等）并提供统一的 API 和自动化引擎。结合 LLM Agent 后，用户可用自然语言控制整个家居系统。

In-context Learning（上下文学习）¶

LLM 通过在输入上下文中提供示例或指令来适应新任务的能力，无需更新模型权重。In-context Learning 是 prompt 工程的理论基础——模型从上下文中"学习"任务模式。

Instruction Tuning（指令微调）¶

通过 SFT 让模型学会遵循指令的训练方法。将各种任务统一为 (instruction, response) 格式进行微调，使模型具备"按指令做"的能力，是 ChatGPT 类产品的关键技术。

KV Cache（键值缓存）¶

Transformer 自回归生成时缓存每一层的 Key 和 Value 矩阵，避免每一步都重新计算历史 token 的注意力。KV Cache 是 LLM 推理加速的核心技术，其大小与序列长度线性相关。

Knowledge Graph（知识图谱）¶

一种以实体为节点、关系为边的语义网络结构。在 Agent 上下文中，知识图谱用于组织领域知识、支持多跳推理查询、增强 RAG 检索的上下文质量。

LLM（Large Language Model，大语言模型）¶

基于 Transformer 架构、在大规模文本数据上预训练的语言模型。LLM 通过 next token prediction 任务学习语言模式，具备文本生成、理解、推理等能力。GPT、Claude、Llama、Qwen 等是代表模型。

LLMOps¶

面向 LLM 应用的生命周期管理实践，涵盖 prompt 管理、评测、监控、版本控制、A/B 测试、成本追踪、安全审计等。LLMOps 从 MLOps 演进而来，但更强调 prompt 和上下文的质量管理。

LangChain¶

最早也是最流行的 LLM 应用开发框架，提供 Chain、Agent、Tool、Memory、Retriever 等开箱即用的抽象层。LangChain 在 Agent 框架普及中扮演了重要角色。

LangGraph¶

LangChain 推出的 Agent 编排框架，以有向图（DAG + 循环）为计算模型。LangGraph 将 Agent 流程建模为"节点（LLM 调用 / 工具执行）→ 边（条件跳转 / 循环）"，适合需要复杂控制流的生产级 Agent。

Long-context（长上下文）¶

LLM 处理长序列（通常 >32K token）的能力。长上下文允许 Agent 在单次请求中处理整本书、完整代码库或长时间对话历史，但同时也带来注意力分散和检索效率下降的挑战。

MCP（Model Context Protocol，模型上下文协议）¶

Anthropic 推出的开放协议，标准化 LLM 与外部工具和数据源之间的通信方式。MCP 定义了 Server（提供工具/资源）和 Client（调用它们的 Agent）两层架构，是工具调用的事实标准。

MCP Client¶

MCP 协议中的客户端，负责发现 MCP Server 提供的工具/资源列表、调用工具、读取资源，并将结果传递给 LLM。LangChain、Cursor、Claude Desktop 等均已支持 MCP Client。

MCP Server¶

MCP 协议中的服务端，暴露一组工具（Tools）和资源（Resources）供 Agent 调用。开发者只需按 MCP 协议实现 Server，即可让所有兼容的 Agent 框架访问其功能。

MPC（Model Predictive Control，模型预测控制）¶

一种高级控制策略：在每个时间步基于当前状态和系统模型预测未来 N 步的行为，并求解最优控制序列，只执行第一步然后重复。在具身智能中，MPC 用于精确的运动控制。

MQTT¶

一个轻量级发布-订阅消息协议，专为 IoT 设备低带宽、高延迟、不可靠网络环境设计。在智能家居 Agent 中，MQTT 是设备与 Agent 之间最常用的通信协议。

Matter¶

一个基于 IP 的智能家居互联标准（由 Apple、Google、Amazon 等联合推出），旨在解决不同品牌 IoT 设备之间的互操作性问题。Matter 设备通过 IP 网络直接通信，无需专有桥接器。

MemGPT（Memory GPT）¶

一个将操作系统级内存管理思想引入 Agent 的项目：Agent 有"主记忆"（当前上下文）和"外部记忆"（归档存储），通过记忆分页和检索来突破上下文窗口限制。

Milvus¶

一个高性能开源向量数据库，专为大规模 embedding 检索设计。支持分布式部署、多索引类型（HNSW、IVF 等）和混合查询（向量 + 标量过滤），适合生产级 RAG 系统。

MoE（Mixture of Experts，混合专家）¶

一种模型架构：将 Transformer FFN 层拆分为多个"专家"子网络，每个 token 只激活部分专家。MoE 在相同推理成本下大幅增加模型参数量，GPT-4、Mixtral、DeepSeek-V2 等模型采用了此架构。

Multi-Agent（多 Agent 系统）¶

多个 Agent 协作完成任务的系统架构。Agent 之间通过消息传递（handoff）、共享任务队列、或共同工作空间协调。多 Agent 适合需要多样化能力的复杂任务，但也引入协调开销。

Multimodal（多模态）¶

模型能同时处理多种输入类型（文本、图像、音频、视频）的能力。多模态让 Agent 能从图纸、截图、语音等非文本来源获取信息，大幅扩展 Agent 的应用场景。

NPU（Neural Processing Unit，神经网络处理器）¶

专为神经网络推理加速设计的芯片，在能效比上优于 GPU 和 CPU。NPU 广泛用于手机、IoT 设备等边缘端场景，让 Agent 推理可在本地低功耗运行。

OPRO（Optimization by PROmpting）¶

一种利用 LLM 来自动优化 prompt 的方法：让 LLM 通过"理解任务描述 + 尝试候选 prompt + 评估优化效果"的循环来自动迭代 prompt 策略。

OpenAI Swarm¶

OpenAI 开源的轻量级多 Agent 编排框架，核心设计是"Agent 通过 handoff 机制移交对话"——每个 Agent 只处理自己擅长的任务，遇到超出范围的请求就移交（handoff）给合适的 Agent。

Operator¶

OpenAI 推出的浏览器 Agent，能自主操作网页完成订餐、购物、填表等任务。Operator 采用 CUA（Computer-Using Agent）技术，通过视觉定位 GUI 元素实现跨网站的通用操作能力。

PD Controller（比例-微分控制器）¶

一种经典控制算法，输出 = Kp × 误差 + Kd × 误差变化率。在具身智能中，PD 控制器用于平滑运动控制，让机械臂或机器人平稳到达目标位置。

Plan-and-Execute（计划-执行）¶

一种 Agent 架构模式：先由"计划者"将用户任务拆解为子步骤，再由"执行者"逐步实现。计划-执行将推理和行动分离，比单纯的 ReAct 循环更适合需要预先规划的长任务。

Prompt（提示词）¶

用户输入给 LLM 的指令文本。Prompt 工程（Prompt Engineering）是设计和优化 prompt 以引导 LLM 输出期望结果的方法论，包括角色设定、格式约束、示例提供、思路引导等技巧。

Prompt Injection（提示注入）¶

一种安全攻击：攻击者通过外部输入（如网页文本、用户消息）嵌入恶意指令，劫持 LLM 的行为。Prompt Injection 是 LLM 应用（尤其是 Agent）最重要的安全威胁之一。

Qdrant¶

一个用 Rust 编写的开源向量数据库，提供高吞吐量的 embedding 相似度搜索。Qdrant 支持过滤、分组、多向量等高级检索功能，以性能稳定和 API 优雅著称。

RAG（Retrieval-Augmented Generation，检索增强生成）¶

先检索外部知识库中的相关内容，再将其拼入 prompt 让 LLM 生成答案的技术范式。RAG 在不更新模型权重的情况下引入外部知识，是缓解幻觉、保持信息时效性的标准方法。

RLHF（Reinforcement Learning from Human Feedback，基于人类反馈的强化学习）¶

一种使用人类偏好数据对 LLM 进行对齐训练的方法。RLHF 流程：SFT → 训练 Reward Model → 用 PPO 算法优化策略模型。InstructGPT 论文（arXiv:2203.02155）建立了这一范式。

ReAct（Reasoning + Acting，推理 + 行动）¶

一种将推理步骤和行动交替进行的 Agent 范式：LLM 循环执行"思考（Thought）→ 行动（Action）→ 观察（Observation）"。ReAct 是 Agent 工程的基础模式，几乎影响所有后续 Agent 设计。

Reflection（反思）¶

Agent 对其自身行为和成果进行回溯评估的机制。反思可以是"执行后回顾"（总结错误原因）或"执行中检查"（评估当前进展是否偏离目标），是提升 Agent 自主质量的重要组件。

Reward Model（奖励模型）¶

在 RLHF 流程中用于给模型输出打分的模型，通常训练为输入 prompt + response、输出一个标量分数。奖励模型捕捉人类偏好，替代人工在 RL 训练阶段提供反馈信号。

SFT（Supervised Fine-Tuning，监督微调）¶

在预训练模型的基础上，使用 (prompt, ideal_response) 监督数据对全部或部分参数进行微调。SFT 是 LLM 从"语言模型"变为"指令遵循模型"的关键步骤，也是 RLHF 的前置阶段。

SWE-Bench¶

一个评测 LLM 在真实 GitHub issue 修复任务上能力的基准，包含 2294 个来自 12 个 Python 库的 issue。SWE-Bench 是目前代码 Agent 最权威的评测基准之一，也是 Devin 等产品的主要考核指标。

Self-Consistency（自洽性）¶

一种提升 LLM 推理准确率的方法：多次采样同一个 prompt（温度 > 0），从生成的多个答案中取最一致的作为最终输出。Self-Consistency 能显著提升数学和推理任务的准确率。

Self-Evolving Agent（自演进 Agent）¶

一种能通过自主实践持续改进自身能力的 Agent。自演进 Agent 的关键组件包括：技能库（Skill Library，存储可复用的程序化技能）、经验积累、自我评测、以及技能合成。Voyager 是最早的自演进 Agent 代表。

Sim2Real（仿真到现实）¶

将在仿真环境中训练的策略迁移到真实物理世界的过程。Sim2Real 的核心挑战是"仿真与现实之间的差距"——仿真中无法完全复现真实的物理特性、传感器噪声和意外情况。

Skill Library（技能库）¶

自演进 Agent 的核心组件，一种程序化技能的知识库。每个技能是经过验证的可复用行为（如"打开网页并截图"、"执行 git diff 并检查变更"），Agent 可通过组合已有技能来应对新任务。

Swarm（群）¶

OpenAI 开源的轻量级多 Agent 框架，强调 Agent 间的 handoff 机制。在 Swarm 中，每个 Agent 有专属的工具集和指令，Agent 之间通过移交（handoff）对话控制权来实现角色切换。

Temperature（温度）¶

控制 LLM 输出随机性的超参数。温度越低（趋近 0），输出越确定（argmax）；温度越高，输出越多样化。温度 0.7 + top-p 0.95 是大多数对话场景的默认配置。

ToT（Tree of Thoughts，思维树）¶

一种将 CoT 扩展为树状搜索的推理框架：在每个推理步生成多个候选思路，用 BFS 或 DFS 探索不同路径，通过评估函数剪枝。ToT 比 CoT 更适合需要探索和回溯的复杂推理任务。

Token（词元）¶

LLM 处理文本的最小单位。一个 token 可以是词、子词或单个字符。中文场景下一个 token 约 1-2 个汉字，英文约 0.75 个词。Token 数决定了输入/输出的成本和上下文窗口限制。

Tool Use（工具使用）¶

Agent 调用外部功能（API、函数、数据库、计算器等）的能力。工具使用是 Agent 区别于纯对话系统的核心能力，包含"何时调用"（决策）和"如何调用"（参数生成）两个子问题。

Toolformer¶

Meta 2023 年提出的让 LLM 学会使用工具的论文方法（arXiv:2302.04761）。Toolformer 通过自监督学习让模型决定何时调用什么 API 以及如何将结果整合到生成中，是"LLM 自主学会用工具"的开创性工作。

Trajectory（轨迹）¶

Agent 在完成任务过程中每一步的完整记录：每个时间步的观察（Observation）、思考（Thought）、行动（Action）和结果（Observation）。轨迹是评测、调试和训练 Agent 的重要数据。

Transformer¶

一种基于自注意力机制的神经网络架构，由 Google 在 2017 年提出（Attention Is All You Need）。Transformer 摒弃了 RNN 的循环结构，通过自注意力 + 位置编码 + FFN 实现并行化序列建模，是所有现代 LLM 的基础架构。

τ-bench（tau-bench）¶

一个评测 Agent 在零售和航空客服场景下的动态决策能力的基准。τ-bench 设计包含多轮对话、工具调用和状态跟踪，专门测试 Agent 在处理复杂业务流程时的鲁棒性。

VLA（Vision-Language-Action，视觉-语言-行动）¶

一种将视觉、语言和行动统一训练的模型架构。VLA 模型直接从视觉输入和语言指令映射到行动输出，无需传统机器人管线中的独立感知、规划、控制模块。RT-2（arXiv:2307.15818）是典型代表。

Voyager¶

NVIDIA 2023 年发布的 Minecraft 自演进 Agent，首次将"技能库（Skill Library）"引入 Agent 架构。Voyager 在 Minecraft 中通过不断探索、编写和存储程序化技能来实现终身学习。

vLLM¶

一个高性能 LLM 推理引擎，通过 PagedAttention 技术近乎消除 KV Cache 碎片，支持 continuous batching 和 streaming。vLLM 是目前部署开源 LLM 最主流的推理引擎之一。

WebArena¶

一个评测 LLM Agent 在 Web 任务上表现的基准，包含 812 个覆盖购物、论坛、分类信息等 6 个网站的真实任务。WebArena 提供全功能网站环境，让 Agent 在真实网页上执行操作并判定任务完成度。

Zero-shot（零样本）¶

LLM 在没有提供任何示例的情况下直接根据指令完成任务的能力。Zero-shot 性能是衡量模型"理解指令"能力的重要指标，不同模型在 zero-shot 场景下的表现差异显著。

Zigbee¶

一种低功耗、低数据速率的无线通信协议，广泛用于智能家居 IoT 设备。Zigbee 设备形成 Mesh 网络——每个设备可以做中继节点，扩展覆盖范围，适合灯光、传感器等低功耗场景。

下一章：附录 B 习题参考答案索引