AIエージェントアーキテクチャ:メモリとプランニングのためのツール

AIエージェントアーキテクチャ:メモリとプランニングのためのツール

2026年8月24日
61 回閲覧
ai-agent-architecture agent-memory agent-planning tool-orchestration multi-agent observability agent-framework system-design

こんにちは、レナです。 AIエージェントのアーキテクチャを見るとき、フレームワーク名から始めることはありません。私は静かな質問から始めます。システムはどこで決定し、どこで記憶し、どこで動作するのでしょうか。そして、人間は何が起こったのかを理解できるのはどこでしょうか?これが、AIエージェントアーキテクチャ ツールのメモリ計画の背後にある実際の作業です。信頼できるエージェント システムは、いくつかの API が接続された単なるモデルではありません。これは、計画、メモリ、ツール、オーケストレーション、およびリカバリの間の一連の境界です。

このガイドは、エージェントスタックの構築または置き換え方法を選択する技術的な創設者、エージェント アーキテクト、および小規模チームのための意思決定マップです。私は普遍的な「最良の」アーキテクチャについては主張しません。なぜなら、私はそれが存在するとは思わないからです。より良い問題は、どの計画パターン、メモリ パターン、ツール制御モデルが作業のリスク、コスト、待ち時間、メンテナンスの現実に適合するかということです。

AIエージェントアーキテクチャのコア層

モデルと計画

モデルは推論エンジンですが、アーキテクチャ全体として扱うべきではありません。単純なワークフローでは、モデルはユーザーのリクエストを分類し、ルートを選択し、承認されたツールを 1 つ呼び出すだけです。より本格的なエージェント計画アーキテクチャでは、モデルは目標をステップに分割し、中間結果を検査し、失敗したアクションを再試行し、欠落しているコンテキストを尋ね、リスクが高くなりすぎた場合に停止することがあります。

私は通常、計画を 3 つの層で考えます。 1 つ目はインテント ルーティングです。これはどのようなタスクですか? 2 つ目はタスクの分解です。最終的な答えや成果物が存在する前に何が起こる必要があるでしょうか? 3 つ目は実行制御です。計画が古くなったり、高価になったり、安全でなくなったり、不可能になったりした場合はどうすればよいでしょうか?

この 3 番目の層では、多くのエージェント システムが脆弱になります。モデルは美しい 5 ステップの計画を作成できますが、システムにはツールの失敗、部分的な結果、予算制限、および人間の承認に関するルールが依然として必要です。計画されたステップが古い状態に依存している場合、エージェントは行動する前に再確認する必要があります。ツールの応答が記憶と矛盾する場合、エージェントは何も起こらなかったかのように単純に続行すべきではありません。

リスクの高いシステムを扱うチームにとって、NIST Generative AI Profile は、導入時だけでなく AI ライフサイクル全体にわたるリスク管理の枠組みを示しているため、有益な参考資料となります。多くの場合、危険な部分はテキスト出力ではないため、これはエージェントにとって重要です。テキストの後に実行されるアクションです。

記憶とコンテキスト

AIエージェントのメモリ アーキテクチャは、あまりにもカジュアルに説明されることがよくあります。 「メモリを追加する」というと簡単そうに聞こえますが、メモリは時間の経過とともに動作を変化させます。つまり、ライフサイクル ルールが必要です。

作業コンテキストは、現在の実行中にエージェントが必要とする一時的な情報です。ユーザーの現在のリクエスト、最近のメッセージ、取得したドキュメント、ツールの出力、ローカル タスクの状態などです。永続メモリとは、環境設定、プロジェクトの事実、安定した制約、チーム ポリシー、繰り返し行われるワークフローの選択など、実行後も存続する必要がある情報です。再利用可能な経験はより強力なカテゴリです。それは単に「ユーザーがMarkdownを好む」だけではありません。それは、検証済みの手順、既知の回復パス、または以前に機能した再利用可能なタスク パターンである可能性があります。

これらのカテゴリ間の境界は明確である必要があります。取得したドキュメントが自動的に永続メモリになるべきではありません。成功した実行が自動的に再利用可能な経験になるべきではありません。ユーザー設定によってセキュリティ ルールが暗黙的にオーバーライドされるべきではありません。少し慎重に聞こえるかもしれませんが、ここからが建築の本当の姿となります。範囲、来歴、検証、そして忘却のない記憶は、静かな漂流の源となります。

ツール、オーケストレーション、および実行

ツールは、エージェントが言語の安全な世界を離れ、システムに触れる場所です。ツールは、ファイルの読み取り、データベースのクエリ、メッセージの送信、コードの変更、ブラウザーのオープン、またはワークフローのトリガーを行うことができます。エージェント ツール オーケストレーションにより、どのツールをどの引数で、どの権限境界で呼び出すことができるか、および結果がどのようにチェックされるかが決まります。

モデル コンテキスト プロトコル仕様 のようなプロトコルは、チームがツール、リソース、プロンプト、承認、キャンセル、ユーザーの同意をより明確に記述するよう促すため、ここで役立ちます。チームが MCP を直接採用しない場合でも、アーキテクチャ上の習慣は貴重です。ツールには、あいまいな自然言語による約束ではなく、構造化された契約が必要です。

実行には状態も必要です。すでに試みられたことは何ですか?どのツール呼び出しが成功しましたか?どの副作用が起こりましたか?どのステップを安全に再試行できますか?ロールバックまたは人間によるレビューが必要なステップはどれですか?実行状態がないと、エージェントは失敗を繰り返したり、アクションを重複したり、実際には完了しなかったタスクを自信を持って要約したりする可能性があります。

計画パターンを選択する

シングルステップのルーティングとマルチステップの計画

タスクの範囲が狭く、リスクが低い場合は、シングルステップのルーティングで十分です。たとえば、エージェントは受信リクエストを分類したり、関連するドキュメントを取得したり、既知のテンプレートに入力したり、内部 API を呼び出したりすることができます。このパターンはテストが簡単で、実行コストが低く、マルチステップにわたる奇妙な動作が発生する可能性が低くなります。

マルチステップの計画は、出力が中間の決定に依存する場合に役立ちます。調査エージェントは、検索、比較、フィルター、下書き、検証を行う必要がある場合があります。コーディング エージェントは、リポジトリを検査し、変更を提案し、ファイルを編集し、テストを実行し、修正する必要がある場合があります。サポート オペレーション エージェントは、アカウントの状態を確認し、ポリシーを読み、応答の下書きを作成し、信頼性が低い場合はエスカレーションする必要がある場合があります。

トレードオフは単純ですが、常に快適であるとは限りません。計画力が高まると、失敗する場所も増えます。マルチステップの計画では、レイテンシ、トークン コスト、ツール呼び出しコスト、可観測性の要件が追加されます。また、成功が 1 つの成果ではなくなるため、評価も難しくなります。成功は道になります。エージェントは正しい手順を選択し、適切なツールを使用し、問題から回復し、信頼できる結果を生み出しました。

マルチエージェントの計画が複雑になる場合

マルチエージェント アーキテクチャは、並列作業から真のメリットを得る分離可能な視点がタスクに含まれている場合に検討する価値があります。市場調査タスクでは、1 人のエージェントが情報源を収集し、もう 1 人が仮説を批判し、もう 1 人が最終的な総合を準備する必要がある場合があります。コードの移行では、1 つのエージェントがアーキテクチャを読み取り、別のエージェントがテストを作成し、別のエージェントが下位互換性をチェックする必要がある場合があります。

しかし、swarm は魔法のアップグレードではありません。アーキテクチャに調整ルールが含まれている場合にのみ、複雑になります。最終的な決定権は誰にありますか?エージェントはどのように状態を共有しますか?あるエージェントが別のエージェントの結論を上書きすることはできますか? 2 人のエージェントの意見が異なる場合はどうなりますか?このシステムは、繰り返しの作業やコンテキスト汚染をどのように防ぐのでしょうか?

タスクが大きいと感じるからといって、私は複数のエージェントによる計画を立てません。入力、出力、レビューの境界が明確で、作業を役割に分割できる場合にこれを使用します。最終層には、ソフトウェア、主任エージェント、人間のレビュー担当者など、責任あるオーケストレーターが 1 人必要です。

メモリパターンを選ぶ

作業コンテキスト、永続メモリ、再利用可能な経験

良い記憶パターンは自制することから始まります。作業コンテキストは新鮮でタスク固有である必要があります。永続メモリは選択的である必要があります。再利用可能な経験は、将来の実行を形作る前に検証する必要があります。

たとえば、チームが特定のプル リクエスト形式を好むことをエージェントが学んだ場合、それが永続的な記憶となる可能性があります。特定の移行戦略が 1 つのリポジトリでテストに合格したことがわかった場合、それがすべてのリポジトリに自動的に適用されるわけではありません。どこで動作したか、どのような前提が存在したか、どのような検証が実行されたか、どのようなリスクが残っているかをシステムが記録した後でのみ、再利用可能な経験になる可能性があります。

EvoMap について自然に言及できるのはここです。私は、その最も興味深いアーキテクチャ上のアイデアは、「エージェントがすべてを記憶する」のではなく、「有用なエクスペリエンスは再利用する前に構造が必要である」と考えています。その区別が重要です。メモリは長いから価値があるわけではありません。範囲が限定され、検査可能で、安全に適用できる場合に価値があります。

取得、検証、および忘却

検索では、コマンドではなく候補が生成される必要があります。メモリが取得された場合でも、エージェントはそれが現在のタスク、現在の権限、現在のツールのバージョン、および現在のデータに適用されるかどうかを確認する必要があります。以前の API に関する記憶は、バージョン変更後に間違っている可能性があります。あるユーザーの好みに関する記憶は、共有チームのワークフローでは不適切である可能性があります。

忘れることは弱点ではありません。これはシステムの健全性の一部です。チームは、古いメモリを期限切れにし、安全でない手順を取り消し、繰り返し失敗するメモリをダウングレードし、個人の好みを組織全体のポリシーから切り離す必要があります。有用な記憶システムは 4 つの質問に答えなければなりません: この記憶を作成したのは誰ですか、それを裏付ける証拠は何ですか、どこで使用できますか、いつ信頼をやめるべきですか?

制御を失うことなくツールを接続する

権限の境界と構造化されたツール契約

ツール制御は、最初のツール呼び出しの前に開始されます。各ツールは、許可されるアクション、必要な入力スキーマ、出力形状、副作用、および承認レベルを定義する必要があります。読み取り専用の検索ツールは、電子メールを送信したり運用データを変更したりするツールと同じ権限カテゴリを共有しないでください。ローカル ファイル ツールをサードパーティの SaaS コネクタと同じように扱うべきではありません。

権限の境界も図に表示する必要があります。ツールがサードパーティのプロセッサにデータを送信する場合、アーキテクチャは、どのデータがシステムから流出するのか、なぜ流出するのか、保存されているかどうか、およびそのパスを誰が承認したかを示す必要があります。私は、データ フローを隠した美しい図よりも、信頼境界が明確なやや単純な図を見たほうがいいと思います。

構造化された契約により曖昧さが軽減されます。エージェントは、どのフィールドが必須であるか、エラーの意味、再試行が安全かどうか、結果が最終的なものであるか検証が必要であるかを認識する必要があります。自然言語の説明はモデルがツールを選択するのに役立ちますが、それが唯一の安全層であるべきではありません。

可観測性、再試行、人間によるレビュー

障害が単一のイベントであることはほとんどないため、信頼できるエージェントには可観測性が必要です。悪い最終的な答えは、不十分な取得、権限の欠落、遅いツール、再試行ループ、または使用されるべきではなかったメモリに起因する可能性があります。痕跡がなければ、チームは推測している。

OpenTelemetry GenAI 可観測性ガイド は、モデル呼び出し、トークンの使用法、ツール呼び出し、レイテンシー、トレース、メトリクス、イベントを結び付けるため役立ちます。エージェント システムの場合、その可視性はデバッグのためだけではありません。また、コスト分析、インシデントのレビュー、アーキテクチャの決定もサポートします。

再試行は慎重に設計する必要があります。失敗した検索を再試行してもリスクは低くなります。支払い、データベースの変更、送信メッセージの再試行はできません。システムには冪等キー、副作用レコード、およびエスカレーション ルールが必要です。間違った行動のコストが速度を落とすコストよりも高い場合には、人間によるレビューが行われる必要があります。

システム全体を評価する

タスクの成功、回復、コスト、保守性

エージェント アーキテクチャは、モデル デモとしてではなく、システム全体として評価される必要があります。タスクの成功は重要ですが、それだけでは十分ではありません。チームは、回復率、ツールエラー率、人的介入率、待ち時間、完了したタスクあたりのコスト、メモリ再利用の品質、プロンプト、ツール、テスト、ポリシーを維持するために必要な労力も測定する必要があります。

コストはトークンの量だけでなく、完了した作業に関連付けられる必要があります。 3 回失敗する低コストの実行は、状態チェックが強化された低速の実行よりもコストが高くなる可能性があります。マルチエージェント ワークフローは実行ごとにコストがかかるように見えるかもしれませんが、人間によるレビューが減れば時間を節約できます。唯一の正直な答えは、実際のタスクに対して測定することです。

保守性は無視できない部分です。新人エンジニアは計画ルールを理解できますか?製品所有者はメモリの動作を検査できますか?セキュリティはツールの権限を確認できますか?サポートはエージェントが何かをした理由を説明できますか?答えが「ノー」の場合、そのアーキテクチャは賢いものの、脆弱である可能性があります。

よくある質問

チームはいつエージェントフレームワークを置き換えるべきですか?

エージェントフレームワークの状態モデル、ツール権限システム、可観測性、またはメモリ ライフサイクルによって、安全に動作するために必要な作業がブロックされている場合は、エージェントフレームワークを置き換えます。新しいフレームワークに優れたサンプルがあるという理由だけでこれを置き換えないでください。現在のスタックによって障害の検査が困難になったり、メモリの管理が困難になったり、ツールの制御が困難になったりする場合には、移行が正当化されます。

チーム全体のアーキテクチャに関する決定は誰が行うべきですか?

小規模なアーキテクチャ グループは、ID、権限、可観測性、メモリ ポリシー、ツール標準、評価要件などの共有境界を所有する必要があります。個々の製品チームは、タスクの動作、ユーザー エクスペリエンス、および受け入れテストを所有する必要があります。すべてが集中化されると、配信が遅くなります。すべてがローカルである場合、システムは不整合になります。

チームはエージェントスタック間でメモリをどのように移行できますか?

テキストだけでなくメタデータを含む思い出をエクスポートします。各メモリには、ソース、作成時刻、所有者、範囲、信頼度、検証証拠、関連ツールのバージョン、失効ステータスが含まれている必要があります。移行中は、メモリを候補として扱います。特にツールの使用、セキュリティ ポリシー、またはユーザー向けの出力に影響を与える場合は、昇格する前に再テストしてください。

マルチステップのエージェント計画に適合する待ち時間の予算はどれくらいですか?

適切なレイテンシ バジェットはインタラクションによって異なります。ライブチャットの場合、ユーザーは高速な部分的な進行と目に見えるチェックポイントを必要とします。背景調査の場合、最終結果が良好であれば、より長い計画を立てても許容される場合があります。リスクの高いアクションの場合、モデルの速度よりも承認時間の方が重要です。私なら、1 つのグローバルな数値ではなく、タスクのクラスごとに予算を設定します。

サードパーティのデータ プロセッサを図でどのように示すべきですか?

メインの信頼境界の外側にあるサードパーティのプロセッサを表示します。送信されるデータ、データにユーザー コンテンツが含まれるかどうか、プロセッサがデータを保存するかどうか、転送を開始したツール、および承認が行われる場所にラベルを付けます。この図は、作成者以外の人でもリスクを特定できるように、データの移動を明確にする必要があります。

最後に

優れたエージェント アーキテクチャとは、モデルにどこでもより自由度を与えることではありません。どこで自由が役立ち、どこで構造が作品を保護するかを決めることが重要です。計画、メモリ、ツール、オーケストレーションを個別に設計しないでください。それらはお互いを形作ります。エージェントは、ツールを知っている場合にのみ、適切な計画を立てることができます。メモリにライフサイクルがある場合にのみ、メモリを安全に再利用できます。実行状態が監視可能な場合にのみ回復できます。

それが私が壁に貼っておきたい地図です。決断し、記憶し、行動し、観察し、回復します。それ以外はすべて実装の選択です。

過去の記事:

  • 実稼働エージェントスタックのモデルの周囲にあるものを理解したい場合は、AIエージェント ハーネス エンジニアリング で、メモリ、オーケストレーション、フレームワーク、ランタイム インフラストラクチャがどのように組み合わされるかを調査します。
  • モジュラー ランタイム アーキテクチャの具体的な例については、DeepSeek Harness アーキテクチャ で、ツール、セッション、権限、サンドボックス、およびエージェント ループを置き換え可能なコンポーネントに分離する方法が示されています。
  • メモリ層が次に設計する部分である場合、エージェント ワークフロー メモリ では、作業コンテキストがどのようにして構造化され、再利用可能なワークフロー エクスペリエンスになるかについて詳しく調べます。
  • マルチステップの実行でアクションがどのように接続されるかをさらに詳しく説明するために、エージェント実行チェーン では、より長いエージェント ワークフローの背後にあるフックと実行構造について説明しています。
  • アーキテクチャの可観測性と回復の側面については、決定論的再生標準 は、後で実行を検査、比較、検証できるように、エージェント システムが何を記録する必要があるかを調べます。

関連記事