AI 智能體架構:記憶與規劃工具

AI 智能體架構:記憶與規劃工具

2026年8月24日
61 次閱讀
ai-agent-architecture agent-memory agent-planning tool-orchestration multi-agent observability agent-framework system-design

嗨,我是莉娜。當我查看AI 智能體架構時,我不會從框架名稱開始。我從一個更安靜的問題開始:系統在哪裏做出決定,它在哪裏記住,它在哪裏行動,以及人類在哪裏仍然可以理解發生了什麼?這就是AI 智能體架構中的工具、記憶與規劃背後的真正工作。可靠的智能體系統不僅僅是附加了一些 API 的模型。它是規劃、記憶、工具、編排和恢復之間的一組邊界。

本指南是技術創始人、智能體架構師和小團隊選擇如何構建或替換智能體技術棧的決策圖。我不會主張一種通用的“最佳”架構,因為我認為不存在這種架構。更好的問題是哪種規劃模式、記憶模式和工具控制模型適合工作的風險、成本、延遲和維護現實。

AI Agent 架構的核心層

模型和規劃

模型是推理引擎,但不應將其視為整個架構。在簡單的工作流程中,模型可能僅對用户的請求進行分類、選擇路線並調用一個批准的工具。在更復雜的智能體規劃架構中,模型可能會將目標分解為步驟,檢查中間結果,重試失敗的操作,詢問缺失的上下文,並在風險變得太高時停止。

我通常會分三層考慮規劃。第一個是意圖路由:這是什麼類型的任務?第二個是任務分解:在最終答案或產物出現之前需要發生什麼?第三個是執行控制:如果計劃變得陳舊、昂貴、不安全或不可能,會發生什麼?

第三層是許多智能體系統變得脆弱的地方。模型可以寫出漂亮的五步計劃,但系統仍然需要工具故障、部分結果、預算限制和人工批准的規則。如果計劃的步驟取決於過時的狀態,則智能體應在採取行動之前重新檢查。如果工具響應與記憶相矛盾,智能體不應簡單地繼續下去,就好像什麼都沒發生一樣。

對於使用高風險系統的團隊來説,NIST 生成式 AI 配置文件 是一個有用的參考,因為它覆蓋整個 AI 生命週期的風險管理,而不僅僅是在部署時。這對於智能體來説很重要,因為風險部分通常不是文本輸出。這是在文本之後採取的操作。

記憶與上下文

AI 智能體記憶架構通常被描述得過於隨意。 “添加記憶”聽起來很簡單,但記憶會隨着時間的推移而改變行為。這意味着它需要生命週期規則。

工作上下文是智能體在當前運行期間所需的臨時信息:用户的當前請求、最近的消息、檢索的文檔、工具輸出和本地任務狀態。持久記憶是在運行後應保留的信息:首選項、項目事實、穩定約束、團隊策略或重複的工作流程選擇。可複用經驗是一個更強大的類別。這不僅僅是“用户喜歡 Markdown”。它可能是經過驗證的過程、已知的恢復路徑或以前有效的可重用任務模式。

這些類別之間的界限應該是明確的。檢索到的文檔不應自動成為持久記憶。一次成功運行不應自動成為可複用經驗。用户首選項不應默默地覆蓋安全規則。我知道這聽起來有點謹慎,但這正是架構落到實處的地方。沒有範圍、出處、驗證和遺忘的記憶成為漂移的安靜來源。

工具、編排和執行

工具是智能體離開語言的安全世界並接觸系統的地方。工具可以讀取文件、查詢數據庫、發送消息、修改代碼、打開瀏覽器或觸發工作流。智能體工具編排決定可以調用哪個工具、使用什麼參數、在哪個權限邊界下以及如何檢查結果。

像模型上下文協議規範這樣的協議在這裏很有用,因為它們促使團隊更明確地描述工具、資源、提示、授權、取消和用户同意。即使團隊不直接採用 MCP,架構習慣也是有價值的:工具應該具有結構化契約,而不是模糊的自然語言承諾。

執行也需要狀態。已經嘗試了什麼?哪個工具調用成功?發生了哪些副作用?哪一步可以安全地重試?哪一步需要回滾或人工審核?如果沒有執行狀態,智能體可能會重複失敗、重複操作或自信地總結從未實際完成的任務。

選擇規劃模式

單步路由和多步規劃

當任務範圍較小且風險較低時,單步路由就足夠了。例如,智能體可以對入站請求進行分類、檢索相關文檔、填寫已知模板或調用一個內部 API。這種模式更容易測試,運行成本更低,並且不太可能產生奇怪的多步驟行為。

當輸出取決於中間決策時,多步驟規劃就變得有用。研究人員可能需要搜索、比較、過濾、起草和驗證。編碼智能體可能需要檢查存儲庫、提出更改、編輯文件、運行測試和修改。支持運營智能體可能需要檢查帳户狀態、閲讀策略、起草響應,並在信心較低時上報。

權衡很簡單,但並不總是令人舒服:更多的計劃能力會帶來更多失敗的地方。多步驟規劃增加了延遲、token 成本、工具調用成本和可觀測性要求。這也使得評估變得更加困難,因為成功不再是一種產出。成功成為一條路徑:智能體選擇了正確的步驟,使用了正確的工具,從問題中恢復過來,併產生了人們可以信任的結果。

多智能體規劃何時值得引入複雜性

當任務包含真正受益於並行工作的可分離視角時,多智能體架構值得考慮。市場研究任務可能需要一個智能體來收集資料,另一個智能體來批評假設,另一個智能體來準備最終的綜合。代碼遷移可能需要一個智能體讀取架構,另一個智能體編寫測試,另一個智能體檢查向後兼容性。

但Swarm並不是魔法升級。只有當架構包含明確的協調規則時,這種複雜性才值得。誰擁有最終決定權?智能體如何共享狀態?一個智能體可以覆蓋另一個智能體的結論嗎?當兩個智能體意見不一致時會發生什麼?系統如何防止重複工作或上下文污染?

我不會僅僅因為任務艱鉅而使用多智能體規劃。當工作可以劃分為具有明確輸入、輸出和審查邊界的角色時,我會使用它。最後一層仍然需要一個負責任的協調者,無論是軟件、首席智能體還是人工審核員。

選擇記憶模式

工作上下文、持久記憶與可複用經驗

良好的記憶模式始於剋制。工作上下文應該保持新鮮並且只服務於當前任務。持久記憶應該是有選擇性的。在塑造未來的運行之前,應驗證可重複使用的經驗。

例如,如果智能體瞭解到團隊更喜歡某種拉取請求格式,那麼這可能會成為持久記憶。如果它得知某個特定的遷移策略在一個存儲庫中通過了測試,那麼它不應自動應用於所有地方。只有在系統記錄了它的工作位置、存在哪些假設、運行了哪些驗證以及仍然存在哪些風險之後,它才可能成為可重用的體驗。

這就是 EvoMap 可以自然提及的地方:我認為它最有趣的架構思想不是“智能體記住一切”,而是“有用的經驗需要結構才能重用”。這種區別很重要。記憶並不寶貴,因為它很長。當其範圍明確、可檢查且應用安全時,它就很有價值。

檢索、驗證和遺忘

檢索應該產生候選,而不是命令。如果檢索到記憶,智能體仍應檢查它是否適用於當前任務、當前權限、當前工具版本和當前數據。版本更改後,對先前 API 的記憶可能會出現錯誤。關於一個用户偏好的記憶在共享團隊工作流程中可能不合適。

忘記並不是弱點。它是系統健康的一部分。團隊應該讓過時記憶失效,撤銷不安全的程序,降級反覆失敗的記憶,並將個人偏好與組織範圍的政策分開。一個有用的記憶系統應該回答四個問題:誰創建了這個記憶,有什麼證據支持它,它可以在哪裏使用,以及什麼時候應該停止信任它?

連接工具而不失去控制

權限邊界和結構化工具合約

工具控制在第一次工具調用之前開始。每個工具應定義其允許的操作、所需的輸入結構、輸出形狀、副作用和審批級別。只讀搜索工具不應與發送電子郵件或修改生產數據的工具共享相同的權限類別。本地文件工具不應被視為與第三方 SaaS 連接器相同。

權限邊界也需要出現在圖表中。如果工具將數據發送到第三方處理器,架構應該顯示哪些數據離開系統、為什麼離開、是否存儲以及誰批准了該路徑。我寧願看到一個具有清晰信任邊界的稍微簡單的圖表,也不願看到一個隱藏數據流的漂亮圖表。

結構化契約減少了歧義。智能體應該知道哪些字段是必需的、錯誤意味着什麼、重試是否安全以及結果是最終的還是需要驗證。自然語言描述可以幫助模型選擇工具,但它們不應該是唯一的安全層。

可觀測性、重試和人工審查

可靠的智能體需要可觀測性,因為故障很少是單一事件。糟糕的最終答案可能來自糟糕的檢索、缺少權限、緩慢的工具、重試循環或不應該使用的記憶。沒有追蹤記錄,團隊只能猜測。

OpenTelemetry GenAI 可觀測性指南 非常有用,因為它連接了模型調用、令牌使用、工具調用、延遲、跟蹤、指標和事件。對於智能體系統來説,這種可見性不僅僅用於調試。它還支持成本分析、事件審查和架構決策。

應仔細設計重試。重試失敗的搜索風險較低。重試支付、數據庫寫入或出站消息則不然。系統需要冪等密鑰、副作用記錄和升級規則。當錯誤行動的成本高於放慢行動的成本時,就應該進行人工審查。

評估整個系統

任務成功、恢復、成本和可維護性

智能體架構應該作為整個系統來評估,而不是作為模型演示。任務的成功很重要,但這還不夠。團隊還應該衡量恢復率、工具錯誤率、人工干預率、延遲、每個完成任務的成本、記憶重用質量以及維護提示、工具、測試和策略所需的工作量。

成本應該與已完成的工作掛鈎,而不僅僅是代幣數量。失敗 3 次的廉價運行可能比具有更好狀態檢查的較慢運行更昂貴。多智能體工作流程每次運行可能看起來很昂貴,但如果減少人工審查,則可以節省時間。唯一誠實的答案是根據實際任務進行衡量。

可維護性是我不會忽視的部分。新工程師能理解規劃規則嗎?產品負責人可以檢查記憶行為嗎?安全可以審查工具權限嗎?支持人員可以解釋智能體為何這樣做嗎?如果答案是否定的,那麼該架構可能很聰明,但很脆弱。

常見問題

團隊什麼時候應該更換智能體框架?

當智能體框架的狀態模型、工具權限系統、可觀測性或記憶生命週期阻礙您安全操作所需的工作時,請更換智能體框架。不要僅僅因為新的框架有更好的示例就替換它。噹噹前堆棧使故障難以檢查、記憶難以管理或工具難以控制時,遷移是合理的。

誰應該做出跨團隊架構決策?

一個小型架構團隊應該擁有共享的邊界:身份、權限、可觀測性、記憶​​策略、工具標準和評估要求。各個產品團隊仍然應該擁有任務行為、用户體驗和驗收測試。如果一切都集中化,交付就會變慢。如果一切都是本地的,系統就會變得不一致。

團隊如何在智能體技術棧之間遷移記憶?

導出帶有元數據的記憶,而不僅僅是文本。每個記憶應包括來源、創建時間、所有者、範圍、置信度、驗證證據、相關工具版本和撤銷狀態。在遷移過程中,將記憶視為候選。在升級之前重新測試它們,特別是當它們影響工具使用、安全策略或面向用户的輸出時。

什麼延遲預算適合多步智能體規劃?

正確的延遲預算取決於交互。對於實時聊天,用户需要快速的部分進度和可見的檢查點。對於背景研究,如果最終結果更好,更長的計劃也是可以接受的。對於高風險操作,審批時間比模型速度更重要。我會根據任務類別而不是單一全局數字來設定預算。

圖表應如何顯示第三方數據處理器?

顯示主要信任邊界之外的第三方處理器。標記發送的數據、是否包含用户內容、處理器是否存儲數據、啓動傳輸的工具以及批准發生的位置。該圖表應該使數據移動足夠明顯,以便非作者能夠發現風險。

最後的思考

好的智能體架構並不是要在任何地方都給予模型更多的自由。這是關於決定自由在哪裏有幫助以及結構在哪裏保護工作。規劃、記憶、工具和編排不應該分開設計。它們彼此影響。智能體只有瞭解其工具才能做好計劃。只有記憶有生命週期,它才能安全地重用記憶。僅當執行狀態可觀測時才能恢復。

這就是我會掛在牆上的地圖:決定、記住、行動、觀察、恢復。其他一切都是實施選擇。

往期文章:

  • 如果您想了解生產智能體技術棧中模型周圍的內容,AI 智能體 Harness 工程 探索記憶、編排、框架和運行時基礎設施如何組合在一起。
  • 對於模塊化運行時架構的具體示例,DeepSeek Harness 架構 展示瞭如何將工具、會話、權限、沙箱和智能體循環分成可替換的組件。
  • 如果記憶層是您接下來要設計的部分,智能體工作流記憶 會更仔細地研究工作上下文如何變得結構化、可重用的工作流體驗。
  • 為了更深入地瞭解操作如何跨多步驟運行進行連接,智能體執行鏈解釋了較長智能體工作流程背後的 Hooks 與執行結構。
  • 對於架構的可觀測性和恢復方面,確定性重放標準 檢查智能體系統需要記錄哪些內容,以便稍後檢查、比較和驗證運行。

相關文章