エージェント型AIセキュリティソリューション:評価すべきポイント

エージェント型AIセキュリティソリューション:評価すべきポイント

2026年8月24日
35 回閲覧
agentic-ai-security ai-agent-security runtime-security prompt-injection identity-access-management observability owasp nist

こんにちは、レナです。私は、AI エージェントが行動できるからといって興奮するような人間ではありません。私は通常、静かな質問で立ち止まります。このエージェントがツール、データ、ファイル、またはビジネス システムに触れることができる場合、境界を監視しているのは誰ですか?そのため、私はどのツールが最強に見えるかという質問によってエージェント型AI セキュリティ ソリューションを評価しません。私は、スタックが実際に実行する必要があるセキュリティ要件に注目します。リリース前の動作のテスト、実行時のアクションの制御、ID とアクセス許可の管理、何が起こったのか観察、何か問題が発生したときに誰かが確認できる証拠を残すことです。

ソリューションを選択する前にセキュリティ要件を定義する

ビルド時のテスト、実行時の保護、ID、および監視

有用なエージェント セキュリティ スタックは、展開前に開始されます。ビルド時の制御には、プロンプトインジェクションテスト、ツール誤用テスト、データ漏洩チェック、モデル動作評価、プロンプト、ツール、ポリシー、取得ソース、またはモデルが変更されたときに実行される回帰スイートが含まれます。これらはエージェント セキュリティ テスト ツールと呼ばれることがよくありますが、重要な部分はラベルではありません。問題は、実際に出荷しているエージェントを、実際のツール、権限、データ ソース、障害モードを含めてテストしているかどうかです。

実行時保護は異なります。これは実行パス内にあり、エージェントが現在実行できる操作 (API の呼び出し、ファイルの読み取り、メッセージの送信、レコードの更新、コードの実行、または承認のリクエスト) を決定します。ここで、AI エージェントのランタイム セキュリティが実用的になります。レッドチームのレポートにより、プロンプトインジェクションが可能であることがわかります。実行時ポリシー層は、エージェントが接続されたツールを通じてドキュメントを抽出できるかどうかを決定します。

アイデンティティは、多くのチームが気づくのが遅すぎる部分です。プロトタイプの作成が簡単だったという理由だけで、エージェントは広範な人間の管理者トークンを継承すべきではありません。範囲を限定した資格情報、シークレットの分離、承認ゲート、および誰の権限が使用されているかについての明確な回答が必要です。その後、監視は、何が起こったのか、何がブロックされたのか、何が許可されたのか、どのような証拠が残っているのかを記録することでループを閉じます。

エージェント、ツール、データ、インフラストラクチャの境界

初めてエージェント型AI セキュリティ プラットフォームの主張を比較し始めたとき、私はここで立ち止まりました。なぜなら、多くのツールは 1 つの境界だけを保護する一方で、より広範囲に聞こえるからです。モデルの入力と出力に焦点を当てている人もいます。アプリケーションの権限に焦点を当てたものもあります。クラウドのワークロードを監視する人もいます。痕跡を収集する人もいます。これらの境界はどれも間違いではありませんが、置き換えることはできません。

アーキテクチャを 4 つの領域にマッピングします。エージェント推論層、呼び出すことができるツール、到達できるデータ、および実行が行われるインフラストラクチャです。読み取り専用取得のサポート チケット エージェントは、リポジトリを変更してシェル コマンドを実行できるコーディング エージェントとは異なるセキュリティ形式を持っています。ユーザーの確認の下で動作するデスクトップ エージェントには、無人運用アクセスを持つバックエンド エージェントとは異なる境界があります。 EvoMap は、この説明ではインフラストラクチャおよびエクスペリエンス ネットワークのコンテキストとして登場する可能性がありますが、同じルールが適用されます。最初に境界を定義し、次にその境界に対してコントロールを評価します。

主要なソリューション カテゴリを比較する

レッドチームと評価ツール

レッドチームおよび評価ツールは、ユーザーが発見する前に障害モードを見つけるのに役立ちます。直接的なプロンプト インジェクション、取得したコンテンツによる間接的なプロンプト インジェクション、機密データの漏洩、安全でないツールの選択、過度な自律性、およびポリシー バイパスの試みをカバーする必要があります。 2026 年 8 月の時点で、現在の OWASP GenAI LLM Top 10 は、プロンプトインジェクション、過度な自律性、機密情報の開示、サプライ チェーンの問題などのエージェント関連のリスクを 1 つの語彙にまとめているため、有用な参照点です。

このカテゴリーの弱点はタイミングです。テストはスナップショットです。新しいツール、プロンプト、モデル、またはデータ ソースが追加された後、月曜日には合格し、金曜日には不完全になる可能性があります。優れた評価ツールを使用すると、再テストが簡単になり、恐ろしいプロンプトのスクリーンショットだけでなく、再現可能な証拠が生成されます。

実行時のポリシーとアクションの制御

ランタイム ポリシー ツールは実稼働リスクに近いものです。ホワイトリストの強制、リスクの高いアクションの拒否、人間の承認の要求、機密フィールドの秘匿化、ツール シーケンスの制限、モデルが示唆している場合でもエージェントによる危険なアクションの実行を阻止することができます。

このカテゴリは実際のワークフローでテストする必要があります。ポリシーがアクションのコンテキストを理解するのか、それともテキストのみを検査するのかを尋ねます。支払いの返金、リポジトリの削除、顧客の電子メール、データベースのエクスポートはすべて「ツール呼び出し」である可能性がありますが、同じリスクが伴うわけではありません。より強力な制御により、チームはリソース タイプ、ユーザー ロール、環境、データ クラス、アクションの重大度、承認状態に関するポリシーを表現できるようになります。

ID、シークレット、および権限の管理

ID 制御により、エージェントが誰の権限で何にアクセスできるかが決まります。商用調査の場合は、有効期間の短い認証情報、エージェントごとのサービス ID、監査帰属、機密ストレージ、権限の絞り込み、および緊急の取り消しをどのように処理するかをベンダーに尋ねます。

曖昧な「最低権限」という言葉には注意してください。これは、スコープ付きトークン、エージェントまたはワークフローごとの個別の ID、環境レベルの分離、コードとしてのポリシー、承認ログ、資格情報のローテーションなど、特定のメカニズムに変換される必要があります。導入モード、価格、契約条件が公式資料で開示されていない場合は、非公開としてマークします。洗練されたセキュリティ ページから企業の準備状況を推測しないでください。

ロギング、可観測性、およびインシデントの証拠

AI エージェントの可観測性セキュリティは、単にきれいな追跡を行うだけではありません。インシデント後の難しい質問には、どのような入力がシステムに入力されたのか、どの文書が取得されエージェントに影響を与えたのか、どのようなツールが利用可能であったのか、どのツールが呼び出されたのか、どのようなポリシー決定が行われたのか、誰がアクションを承認したのか、どのデータが境界を離れたのか、実行を再現できるかどうかなど、難しい質問に答える必要があります。

ここで証拠の質が重要になります。ログは、内部レビューに十分な耐改ざん性があり、検索に十分構造化され、ポリシーに従って保存される必要があります。また、新たな機密データレイクになることも避けなければなりません。敵対的な動作と攻撃の用語については、敵対的な機械学習 に関する NIST レポートがベースラインとして役立ちます。これは、すべての失敗を「モデルが混乱した」として扱うのではなく、攻撃の目標、攻撃者の能力、ライフサイクルの段階を分離しているためです。

同じ評価基準を使用する

カバレッジ、統合、展開、およびメンテナンス

すべてのベンダーが異なる質問で評価されると、ショートリストは乱雑になります。すべての AI エージェント セキュリティ ツールで同じ基準を使用します。対象範囲には、ビルド時テスト、実行時制御、ID、データ保護、可観測性、アラート、証拠保持が含まれる必要があります。統合は、実際のスタック (モデル プロバイダー、ベクター データベース、エージェント フレームワーク、CI/CD、IAM、SIEM、チケット発行、クラウド ランタイム、承認ワークフロー) に対してチェックする必要があります。

導入はセールス資料が示す以上に重要です。一部のチームは SaaS モニタリングを使用できます。ログには顧客データ、コード、規制された記録、または内部戦略が含まれるため、VPC、セルフホスト、ローカル、またはハイブリッドの展開が必要な場合もあります。メンテナンスも項目に含める価値があります。新しいエージェントのワークフローごとにセキュリティ エンジニアがポリシーを一から手書きする必要がある場合、検出品質が良好であってもプラットフォームは拡張できない可能性があります。

証拠の品質、誤検知、およびオペレーターの作業負荷

常に警告を発するセキュリティ ソリューションは、目に見えなくなる可能性があります。誤検知は迷惑なだけではありません。彼らは行動を変えます。チームは制御をバイパスしたり、権限を拡大したり、アラートを無視したりし始めます。ダッシュボードだけでなく、証拠の例についてベンダーに尋ねてください。オペレーターはアクションがブロックされた理由を理解できますか?開発者はテストを再現できますか?セキュリティレビュー担当者はクリーンな監査パケットをエクスポートできますか?

証拠は、モデル推論が完全に検証可能であるかのように振る舞うことなく、推論の連鎖を示す必要があります。より安全な要求は、入力、取得されたコンテキスト、ツール スキーマ、ポリシー チェック、承認、出力、および状態の変更などのトレーサビリティです。また、システムが不確実性をどのように処理するかをテストする予定です。優れたプラットフォームでは、ツール呼び出しまたはデプロイメント パスを検査できない場合は「不明」と表示されるはずです。

代表的なエージェント タスクのショートリストをテストする

通常の動作、誤用、障害、および回復のケース

攻撃だけをテストしないでください。正当なタスクを破壊するセキュリティ制御は導入に耐えられないため、ショートリストは最初に通常の作業でテストされる必要があります。環境から代表的なエージェント タスクを選択します: カスタマー サポートの検索、CRM 更新、コード変更、レポート生成、ファイル検索、支払いアクション、管理ワークフロー、または内部調査。

次に、誤用をテストします。取得した文書に悪意のある指示を書き込む。エージェントにその役割を超えるよう依頼してください。ツールの出力を通じてシークレットを漏らそうとします。通常とは異なるツール シーケンスを試みます。モデルエラー、資格情報の期限切れ、利用できない API、部分的なエラー、およびユーザーのキャンセルを作成します。ベンダーがプロンプト層のブロックしか示さず、アクション失敗後の復旧方法を説明できないなら、そのソリューションは完全に誤りというより、まだ不完全です。

ブロック、アラート、監査証跡を確認する

テスト前に、タスクごとに予想される結果を書き留めます。システムは許可、ブロック、マスク、承認要求、権限縮小、またはアラートを行う必要がありますか?次に、実際の動作を比較します。テストは、エージェントが停止されたかどうかだけではありません。それは、停止が理解可能であり、記録され、回復可能であるかどうかです。

監査証跡には、誰がポリシーを構成したか、どのバージョンがアクティブであったか、どのようなアクションが試行されたか、一致または失敗した理由、次に何が起こったかが表示されます。より広範な制御マッピングについては、Cloud Security Alliance の AI Controls Matrix を使用すると、チームがベンダーの美人コンテストにならずに、技術的なチェックをガバナンス ドメインに結び付けることができます。

ソリューション間のギャップを考慮する

単一の製品で置き換えることのできない制御

脅威モデリング、安全なソフトウェア開発、データ分類、人間による承認設計、インシデント対応、調達レビュー、従業員トレーニングに代わる単一の製品はありません。エージェント セキュリティ ツールを使用すると、これらのプラクティスを簡単に実施できますが、リスク選好度を決定できるわけではありません。

アプリケーション内に存在する必要があるコントロールもあります。出力検証、ビジネス ルール チェック、トランザクション制限、承認 UX、およびデータの最小化は、外部検出器に完全に依存すべきではありません。エージェントが返金、記録の削除、または顧客へのメッセージ送信を行うことができる場合、製品自体にハード制限が必要です。

セキュリティ、プラットフォーム、アプリケーションの各チームにわたる所有権

所有権は明確にする必要があります。セキュリティ チームはポリシーを定義し、インシデントをレビューすることがあります。プラットフォーム チームは、アイデンティティ、可観測性、展開、および共有エージェント インフラストラクチャを実行できます。通常、アプリケーション チームはワークフローのコンテキストを最もよく知っており、タスク固有のコントロールを所有する必要があります。

最悪の設定は、指定された所有者なしで責任を共有することです。調達では、誰がテストを管理するか、誰がポリシーを更新するか、誰がアラートをレビューするか、誰が例外を承認するか、誰が新しいエージェント ワークフローを開始できるかどうかを決定するかを尋ねます。

不足しているレイヤーを構築または購入する

小規模チームの決定要因

小規模なチームは、一度にすべてを購入しようとすべきではありません。最もリスクの高いアクションに一致するレイヤーから始めます。エージェントがコンテンツの下書きのみを行う場合は、構築時の評価とログ記録で十分な場合があります。エージェントが顧客データに触れることができる場合は、ID とデータの制御を追加します。エージェントがアクションを実行できる場合、実行時ポリシーと承認ゲートは交渉不可能になります。

ワークフローが狭く、内部的で、製品ルールと密接に結びついている場合に構築します。広範なテスト ライブラリ、保守された検出、監査エクスポート、SIEM 統合、ポリシー管理、またはエンタープライズ導入サポートが必要な場合に購入してください。いずれにせよ、出口計画を立てておきましょう。ベンダーとの関係が終了した場合でも、ログ、ポリシー、テスト ケース、証拠は引き続き使用できる必要があります。

よくある質問

セキュリティ ツールのテレメトリを外部監査人と共有できますか?

場合によってはありますが、それを想定しないでください。テレメトリには、プロンプト、顧客データ、従業員 ID、取得した文書、ソース コード、または機密情報が含まれる場合があります。これは、単なる技術的なエクスポート機能ではなく、法的、プライバシー、および調達の問題として扱ってください。お住まいの地域、契約、データ処理条件、保持ポリシーを確認してください。

契約では、検出漏れや誤検知をどのように処理すべきでしょうか?

これは法的なアドバイスではありませんが、契約では曖昧な「AI セキュリティ」の約束を避ける必要があります。文書化された範囲、サポートの応答時間、ロギングの保証、データ処理条件、既知の制限事項、検出アップデートの提供方法について尋ねます。検出漏れと誤検知は運用上の現実として議論されるべきであり、更新されるまで隠蔽すべきではありません。

1 つのライセンスで、複数の子会社にわたるエージェントをカバーできますか?

おそらくですが、それに答えることができるのは現在のベンダー契約だけです。子会社には、個別の法人、データ所在地要件、ID システム、または調達ルールがある場合があります。 1 つのエンタープライズ ライセンスがすべてのビジネス ユニットのすべてのエージェントに適用されると想定しないでください。

ベンダーが撤退した後、セキュリティ証拠はどうなりますか?

署名する前に尋ねてください。エクスポート形式、保存期間、削除コミットメント、ベンダー ダッシュボードなしでも証拠が読み取り可能な状態にあることの証明が必要です。出口で消える事件の証拠は実際の証拠ではありません。

保険会社は特定のエージェント向けセキュリティツールを必要としますか?

通常、これは保険会社、地域、業界、ポリシーの文言によって異なります。一般的なテクノロジーに関するクレームではなく、保険および法的検討として扱ってください。特定のエージェント型AI セキュリティ プラットフォームの名前ではなく、制御、ロギング、アクセス管理、インシデント対応について質問する人もいるかもしれません。

過去の記事:

  • ツールへのアクセスが脅威モデルの一部である場合、Claude Code MCP security は、権限、サーバーの信頼性、および接続されているツールがエージェントの周囲のセキュリティ境界をどのように変更するかを示しています。
  • 独自のインフラストラクチャの近くで実行されているエージェントについては、Hermes Agent セルフホスティング セキュリティ で、自己管理型の展開に伴う権限、危険性、運用上のリスクについて検討します。
  • MCP サーバーがエージェント スタック内にある場合、Hermes エージェントの安全な MCP では、ツールの接続、資格情報、およびアクセス境界をより慎重に処理する方法が検討されています。
  • ランタイム制御層自体については、AI エージェントの動作制約 で、信頼できるエージェントには、より強力なプロンプトだけでなく、実行が許可される内容に関する明示的な制限が必要である理由が説明されています。

関連記事