嗨,我是莉娜。当我查看AI 智能体架构时,我不会从框架名称开始。我从一个更安静的问题开始:系统在哪里做出决定,它在哪里记住,它在哪里行动,以及人类在哪里仍然可以理解发生了什么?这就是AI 智能体架构中的工具、记忆与规划背后的真正工作。可靠的智能体系统不仅仅是附加了一些 API 的模型。它是规划、记忆、工具、编排和恢复之间的一组边界。
本指南是技术创始人、智能体架构师和小团队选择如何构建或替换智能体技术栈的决策图。我不会主张一种通用的“最佳”架构,因为我认为不存在这种架构。更好的问题是哪种规划模式、记忆模式和工具控制模型适合工作的风险、成本、延迟和维护现实。
AI Agent 架构的核心层
模型和规划
模型是推理引擎,但不应将其视为整个架构。在简单的工作流程中,模型可能仅对用户的请求进行分类、选择路线并调用一个批准的工具。在更复杂的智能体规划架构中,模型可能会将目标分解为步骤,检查中间结果,重试失败的操作,询问缺失的上下文,并在风险变得太高时停止。
我通常会分三层考虑规划。第一个是意图路由:这是什么类型的任务?第二个是任务分解:在最终答案或产物出现之前需要发生什么?第三个是执行控制:如果计划变得陈旧、昂贵、不安全或不可能,会发生什么?
第三层是许多智能体系统变得脆弱的地方。模型可以写出漂亮的五步计划,但系统仍然需要工具故障、部分结果、预算限制和人工批准的规则。如果计划的步骤取决于过时的状态,则智能体应在采取行动之前重新检查。如果工具响应与记忆相矛盾,智能体不应简单地继续下去,就好像什么都没发生一样。
对于使用高风险系统的团队来说,NIST 生成式 AI 配置文件 是一个有用的参考,因为它覆盖整个 AI 生命周期的风险管理,而不仅仅是在部署时。这对于智能体来说很重要,因为风险部分通常不是文本输出。这是在文本之后采取的操作。
记忆与上下文
AI 智能体记忆架构通常被描述得过于随意。 “添加记忆”听起来很简单,但记忆会随着时间的推移而改变行为。这意味着它需要生命周期规则。
工作上下文是智能体在当前运行期间所需的临时信息:用户的当前请求、最近的消息、检索的文档、工具输出和本地任务状态。持久记忆是在运行后应保留的信息:首选项、项目事实、稳定约束、团队策略或重复的工作流程选择。可复用经验是一个更强大的类别。这不仅仅是“用户喜欢 Markdown”。它可能是经过验证的过程、已知的恢复路径或以前有效的可重用任务模式。
这些类别之间的界限应该是明确的。检索到的文档不应自动成为持久记忆。一次成功运行不应自动成为可复用经验。用户首选项不应默默地覆盖安全规则。我知道这听起来有点谨慎,但这正是架构落到实处的地方。没有范围、出处、验证和遗忘的记忆成为漂移的安静来源。
工具、编排和执行
工具是智能体离开语言的安全世界并接触系统的地方。工具可以读取文件、查询数据库、发送消息、修改代码、打开浏览器或触发工作流。智能体工具编排决定可以调用哪个工具、使用什么参数、在哪个权限边界下以及如何检查结果。
像模型上下文协议规范这样的协议在这里很有用,因为它们促使团队更明确地描述工具、资源、提示、授权、取消和用户同意。即使团队不直接采用 MCP,架构习惯也是有价值的:工具应该具有结构化契约,而不是模糊的自然语言承诺。
执行也需要状态。已经尝试了什么?哪个工具调用成功?发生了哪些副作用?哪一步可以安全地重试?哪一步需要回滚或人工审核?如果没有执行状态,智能体可能会重复失败、重复操作或自信地总结从未实际完成的任务。
选择规划模式
单步路由和多步规划
当任务范围较小且风险较低时,单步路由就足够了。例如,智能体可以对入站请求进行分类、检索相关文档、填写已知模板或调用一个内部 API。这种模式更容易测试,运行成本更低,并且不太可能产生奇怪的多步骤行为。
当输出取决于中间决策时,多步骤规划就变得有用。研究人员可能需要搜索、比较、过滤、起草和验证。编码智能体可能需要检查存储库、提出更改、编辑文件、运行测试和修改。支持运营智能体可能需要检查帐户状态、阅读策略、起草响应,并在信心较低时上报。
权衡很简单,但并不总是令人舒服:更多的计划能力会带来更多失败的地方。多步骤规划增加了延迟、token 成本、工具调用成本和可观测性要求。这也使得评估变得更加困难,因为成功不再是一种产出。成功成为一条路径:智能体选择了正确的步骤,使用了正确的工具,从问题中恢复过来,并产生了人们可以信任的结果。
多智能体规划何时值得引入复杂性
当任务包含真正受益于并行工作的可分离视角时,多智能体架构值得考虑。市场研究任务可能需要一个智能体来收集资料,另一个智能体来批评假设,另一个智能体来准备最终的综合。代码迁移可能需要一个智能体读取架构,另一个智能体编写测试,另一个智能体检查向后兼容性。
但Swarm并不是魔法升级。只有当架构包含明确的协调规则时,这种复杂性才值得。谁拥有最终决定权?智能体如何共享状态?一个智能体可以覆盖另一个智能体的结论吗?当两个智能体意见不一致时会发生什么?系统如何防止重复工作或上下文污染?
我不会仅仅因为任务艰巨而使用多智能体规划。当工作可以划分为具有明确输入、输出和审查边界的角色时,我会使用它。最后一层仍然需要一个负责任的协调者,无论是软件、首席智能体还是人工审核员。
选择记忆模式
工作上下文、持久记忆与可复用经验
良好的记忆模式始于克制。工作上下文应该保持新鲜并且只服务于当前任务。持久记忆应该是有选择性的。在塑造未来的运行之前,应验证可重复使用的经验。
例如,如果智能体了解到团队更喜欢某种拉取请求格式,那么这可能会成为持久记忆。如果它得知某个特定的迁移策略在一个存储库中通过了测试,那么它不应自动应用于所有地方。只有在系统记录了它的工作位置、存在哪些假设、运行了哪些验证以及仍然存在哪些风险之后,它才可能成为可重用的体验。
这就是 EvoMap 可以自然提及的地方:我认为它最有趣的架构思想不是“智能体记住一切”,而是“有用的经验需要结构才能重用”。这种区别很重要。记忆并不宝贵,因为它很长。当其范围明确、可检查且应用安全时,它就很有价值。
检索、验证和遗忘
检索应该产生候选,而不是命令。如果检索到记忆,智能体仍应检查它是否适用于当前任务、当前权限、当前工具版本和当前数据。版本更改后,对先前 API 的记忆可能会出现错误。关于一个用户偏好的记忆在共享团队工作流程中可能不合适。
忘记并不是弱点。它是系统健康的一部分。团队应该让过时记忆失效,撤销不安全的程序,降级反复失败的记忆,并将个人偏好与组织范围的政策分开。一个有用的记忆系统应该回答四个问题:谁创建了这个记忆,有什么证据支持它,它可以在哪里使用,以及什么时候应该停止信任它?
连接工具而不失去控制
权限边界和结构化工具合约
工具控制在第一次工具调用之前开始。每个工具应定义其允许的操作、所需的输入结构、输出形状、副作用和审批级别。只读搜索工具不应与发送电子邮件或修改生产数据的工具共享相同的权限类别。本地文件工具不应被视为与第三方 SaaS 连接器相同。
权限边界也需要出现在图表中。如果工具将数据发送到第三方处理器,架构应该显示哪些数据离开系统、为什么离开、是否存储以及谁批准了该路径。我宁愿看到一个具有清晰信任边界的稍微简单的图表,也不愿看到一个隐藏数据流的漂亮图表。
结构化契约减少了歧义。智能体应该知道哪些字段是必需的、错误意味着什么、重试是否安全以及结果是最终的还是需要验证。自然语言描述可以帮助模型选择工具,但它们不应该是唯一的安全层。
可观测性、重试和人工审查
可靠的智能体需要可观测性,因为故障很少是单一事件。糟糕的最终答案可能来自糟糕的检索、缺少权限、缓慢的工具、重试循环或不应该使用的记忆。没有追踪记录,团队只能猜测。
OpenTelemetry GenAI 可观测性指南 非常有用,因为它连接了模型调用、令牌使用、工具调用、延迟、跟踪、指标和事件。对于智能体系统来说,这种可见性不仅仅用于调试。它还支持成本分析、事件审查和架构决策。
应仔细设计重试。重试失败的搜索风险较低。重试支付、数据库写入或出站消息则不然。系统需要幂等密钥、副作用记录和升级规则。当错误行动的成本高于放慢行动的成本时,就应该进行人工审查。
评估整个系统
任务成功、恢复、成本和可维护性
智能体架构应该作为整个系统来评估,而不是作为模型演示。任务的成功很重要,但这还不够。团队还应该衡量恢复率、工具错误率、人工干预率、延迟、每个完成任务的成本、记忆重用质量以及维护提示、工具、测试和策略所需的工作量。
成本应该与已完成的工作挂钩,而不仅仅是代币数量。失败 3 次的廉价运行可能比具有更好状态检查的较慢运行更昂贵。多智能体工作流程每次运行可能看起来很昂贵,但如果减少人工审查,则可以节省时间。唯一诚实的答案是根据实际任务进行衡量。
可维护性是我不会忽视的部分。新工程师能理解规划规则吗?产品负责人可以检查记忆行为吗?安全可以审查工具权限吗?支持人员可以解释智能体为何这样做吗?如果答案是否定的,那么该架构可能很聪明,但很脆弱。
常见问题
团队什么时候应该更换智能体框架?
当智能体框架的状态模型、工具权限系统、可观测性或记忆生命周期阻碍您安全操作所需的工作时,请更换智能体框架。不要仅仅因为新的框架有更好的示例就替换它。当当前堆栈使故障难以检查、记忆难以管理或工具难以控制时,迁移是合理的。
谁应该做出跨团队架构决策?
一个小型架构团队应该拥有共享的边界:身份、权限、可观测性、记忆策略、工具标准和评估要求。各个产品团队仍然应该拥有任务行为、用户体验和验收测试。如果一切都集中化,交付就会变慢。如果一切都是本地的,系统就会变得不一致。
团队如何在智能体技术栈之间迁移记忆?
导出带有元数据的记忆,而不仅仅是文本。每个记忆应包括来源、创建时间、所有者、范围、置信度、验证证据、相关工具版本和撤销状态。在迁移过程中,将记忆视为候选。在升级之前重新测试它们,特别是当它们影响工具使用、安全策略或面向用户的输出时。
什么延迟预算适合多步智能体规划?
正确的延迟预算取决于交互。对于实时聊天,用户需要快速的部分进度和可见的检查点。对于背景研究,如果最终结果更好,更长的计划也是可以接受的。对于高风险操作,审批时间比模型速度更重要。我会根据任务类别而不是单一全局数字来设定预算。
图表应如何显示第三方数据处理器?
显示主要信任边界之外的第三方处理器。标记发送的数据、是否包含用户内容、处理器是否存储数据、启动传输的工具以及批准发生的位置。该图表应该使数据移动足够明显,以便非作者能够发现风险。
最后的思考
好的智能体架构并不是要在任何地方都给予模型更多的自由。这是关于决定自由在哪里有帮助以及结构在哪里保护工作。规划、记忆、工具和编排不应该分开设计。它们彼此影响。智能体只有了解其工具才能做好计划。只有记忆有生命周期,它才能安全地重用记忆。仅当执行状态可观测时才能恢复。
这就是我会挂在墙上的地图:决定、记住、行动、观察、恢复。其他一切都是实施选择。
往期文章:
- 如果您想了解生产智能体技术栈中模型周围的内容,AI 智能体 Harness 工程 探索记忆、编排、框架和运行时基础设施如何组合在一起。
- 对于模块化运行时架构的具体示例,DeepSeek Harness 架构 展示了如何将工具、会话、权限、沙箱和智能体循环分成可替换的组件。
- 如果记忆层是您接下来要设计的部分,智能体工作流记忆 会更仔细地研究工作上下文如何变得结构化、可重用的工作流体验。
- 为了更深入地了解操作如何跨多步骤运行进行连接,智能体执行链解释了较长智能体工作流程背后的 Hooks 与执行结构。
- 对于架构的可观测性和恢复方面,确定性重放标准 检查智能体系统需要记录哪些内容,以便稍后检查、比较和验证运行。



