AI Agent

它是什么

AI Agent 是一套能自己决定下一步做什么的运行时结构，而不是一次模型调用。

Anthropic 工程指南给的区分很干净：工作流是「用预先写好的代码路径去编排 LLM 和工具」，Agent 是「让 LLM 自己动态地指导自己的流程与工具使用」。这句话把两者的分界钉在同一个问题上——下一步走哪，由谁决定。工作流由写代码的人决定，Agent 由模型在运行时决定。

所以它不是一个更强的模型，也不是一段很长的提示词，而是一套系统：模型在里面只负责判断，外面还包着工具、状态、预算和边界。把 Agent 理解成「模型能力」是后面所有误会的起点。

为什么需要它

一次问答能做的事，上限是「一段文本」。而研究、编码、跨系统操作这类任务，答案依赖中途才出现的信息：搜到了什么、文件里写了什么、接口返回了什么。

Agent 把语言模型的判断力接到这些外部动作上，任务于是能在「做 → 看结果 → 再决定」的循环里推进。这是它不可替代的地方。

但代价与收益同源：它自己决定路径，就意味着它可能决定错。Anthropic 的表述很直白——自主性带来更高的成本，以及「错误会叠加」的风险；所以他们建议在沙箱环境里做大量测试，并配上合适的护栏。Agent 的能力和风险，是同一个机制的两面，不是可以分别取舍的两件事。

它如何工作

构建块是「被增强过的 LLM」——Anthropic 的说法是，agentic 系统的基本单元是一个加了检索、工具、记忆等增强的 LLM。再叠上「自己决定」这一层，就得到一个循环：

读取目标与当前状态 → 选择下一步并调用工具 → 观察返回结果 → 更新计划 → 判断继续、重试、结束还是升级给人。

Anthropic 对过程的描述是：Agent 从一条指令开始，然后自主地规划并执行，中途可以回过头向人要更多信息或判断。

有两样东西经常被当成「有 / 没有」的开关，它们其实是可调的旋钮：

• 自主度：从「每一步都问人」到「只在关键动作前确认」，再到「跑完再汇报」，中间是连续的档位。它不是开关，而是你按任务风险自己拧的一格——同一个 Agent 在查资料时可以拧到「全自动」，在付款时必须拧回「人工确认」。
• 记忆：分短期与长期。短期指还留在上下文窗口里的对话与观察；长期指被写进外部存储、下次还能取回的内容。窗口装不下的时候，你必须先决定哪些该落进长期记忆，否则它要么忘掉，要么撑爆上下文。

真正决定它能不能上生产的，是循环外面那圈工程，而不是循环本身：工具定义、权限、状态保存、预算与超时、日志、人工确认点。这些不在模型里，必须由系统提供。这也是为什么「Agent」从来不是一个模型能力，而是一个系统。

必须澄清的误会

Agent ≠ 工作流。 最该先钉死的一条。差别只有一句话：路径由谁定。工作流把步骤写死在代码里，模型只在某些节点被调用；Agent 把「下一步做什么」交给模型在运行时决定。所以判断标准不是「用没用 LLM」——把 LLM 塞进固定流程仍然是工作流；而一个只有两个工具、却由模型决定先调哪个的系统，才是 Agent。到岔路口时是人在选还是模型在选，这一条就够分了。

有了工具调用 ≠ 就是 Agent。 单轮的 Function Calling——模型说一句「我要调这个函数」，外层执行一次、把结果塞回去、结束——不是 Agent。它的判据是多步、带状态、并且自己决定下一步；少了「自己决定」这一条，它只是「一次会调工具的问答」。

Agent ≠ 更聪明的聊天机器人。 聊天机器人的产物是文字，Agent 的产物是已经发生的事：文件被改了、接口被调了、订单被下了。这个差别把错误的性质也换了——聊天里的错误读一遍就发现，Agent 的错误可能已经写进系统里了。所以对 Agent 的期待不该是「它答得更准」，而是「它的动作可观察、可回滚、越权有边界」。

真实例子

一个旅行研究 Agent：先确认日期和预算，再搜交通与住宿、比较候选、生成行程草案。到这一步它做的是信息工作，出错成本低，可以全自动。

但「付款」不是普通的一步。在同一个循环里，它同样是「调用一个工具」，性质却完全不同——金额、商家、取消条件必须在你明确确认后才生效，而且它不应有权访问与该订单无关的账号数据。这个例子要说明的是：一个 Agent 内部可以同时存在「可自动」和「必须确认」两类步骤，区分它们的不是技术，是这一步做错了能不能撤回。

什么时候适合与不适合

适合：步骤会随中间结果变化、工具返回可观察、且出错可恢复的任务——这类任务你无法预先写好固定路径，正是 Anthropic 建议用 Agent 而非工作流的场景（他们的原话是「步骤数难以预测、路径无法写死」的开放式问题）。

不适合：固定审批流、简单数据搬运、以及高风险不可逆的操作，这些更适合确定性的工作流。Anthropic 还有一条同样重要的工程建议：从能解决问题的最简单方案开始——先试单次调用，再试工作流，只有当路径真的无法预先确定时才上 Agent。Agent 不是默认答案。

颗粒度也要拎清：不是整个系统要么全是 Agent、要么全是工作流，而是可以混着来——固定流程用代码编排，少数真正开放的环节交给 Agent，两者之间用人在回路或明确的状态边界隔开。

还有一句必须说清：工作流不是「落后的 Agent」。 两者不是先进与落后，而是适用场景不同——流程稳定时就该用工作流，因为它可预测、可审计：每一步都是人定的，出了问题能定位到具体一段代码。Agent 换来的灵活性，代价恰恰是这份可预测性。所以「能上 Agent」不是能力证明，「该不该上」才是判断。

亲自试一下

给模型两个工具——读文件 + 写文件——让它完成一次多步任务，比如「读 X 文件，按里面的清单生成一份汇总写到 Y」。

全程约 30 分钟。观察点不是「它做没做对」，而是「你在哪一步必须介入」：它在哪一步主动停下来问、哪一步你会希望它停下来问、以及哪一步它做了而你不希望它自作主张。把这三个位置记下来——它们就是你这个场景里护栏、权限和人工确认该放的地方，比任何通用清单都准。

如果整件事它一次做完、你也完全没觉得需要介入，那反而更该警惕：多半说明你还没想清楚哪一步错了会疼。

接下来学什么

AI Agent 是第 4 站 给手脚 · 怎么让它做事 的入口概念：从「给答案」到「把事办完」的转折就发生在这一站。

沿着这一站往下，先看它的零件——工具调用（它靠什么碰到外部世界）与 Agent 规划（它怎么决定步骤顺序）；再看它的边界——人在回路（哪一步必须有人）与 Agent 沙箱（怎么限制它能碰的范围）。

如果你分不清「该用 Agent 还是固定工作流」，第 6 站的 Agentic 工作流 会把这条线讲透（给流程）。动手之前，先看一眼第 7 站 给判断：没有测试集，你无法知道它的行为是变好了，还是只是变了。

来源与修订

工作流与 Agent 的区分、构建块（被增强的 LLM）、「步骤数难以预测才对」的适用判断、「从最简单方案开始」与「沙箱测试 + 护栏」的建议，均来自 Anthropic 工程指南 Building Effective Agents（2024-12-19）。自导向循环、用户控制、安全交互与透明、隐私的原则，来自其研究页 Trustworthy Agents in Practice（访问于 2026-09-19）。

一处边界要说明：本文对「Agent / 工作流 / 单轮工具调用」三者的区分对齐 Anthropic 的工程定义；「Agent ≠ 更聪明的聊天机器人」那一句是本站的表述，用来说明「产物从文字变成动作」这个后果，不是来源原文。具体框架的接口与实现方式不在本文的稳定范围内——它们变化快，本就不是这个概念的稳定部分。

修订日期 2026-09-19：本条由生成模板改为决策页——补「必须澄清的误会」一节，去掉生成期的引用标记，补 boundaries 边界声明与 minAction 上手动作。上述来源的工程定义相对稳定；若 Anthropic 更新指南，应优先核对「工作流 vs Agent」的定义段与适用建议段再修订。