エージェントのセキュリティ

用語解説

エージェントAIセキュリティ（Agentic AI Security）とは、自律的に行動するAIエージェントが引き起こしうるセキュリティリスクを特定・評価・軽減するための取り組みの総称です。通常のAIセキュリティに加え、エージェントが「行動する」ことで生じる固有のリスクに対処します。

AIエージェントは外部システムへの書き込みや実行ができるため、悪意ある入力によって意図しない操作を引き起こされる「プロンプトインジェクション」が特に深刻な脅威となります。

エージェントに付与する権限を「タスクに必要な最低限」に絞ります。「読み取りは全て可」ではなく、「このツールは特定のDBの読み取りのみ」「この操作は管理者承認が必要」という粒度での権限設計がセキュリティの基本です。

外部データ（ウェブページ・メール・ユーザー入力）をエージェントが処理する際に、システムプロンプトの書き換えを防ぐためのサニタイズ処理とスコープ制限を実装します。

エージェントが実行した全操作のログを取り、不審な動作を検知・追跡できる体制を整えます。事後の原因究明と継続的なリスク評価に不可欠です。

プロンプトインジェクションは外部からのネットワーク攻撃ではなく、エージェントが読み込むデータに埋め込まれるため、ネットワーク防御だけでは防げません。

モデル自体の信頼性と、エージェントのアーキテクチャ・権限設計のセキュリティは別問題です。優れたモデルでも不適切な権限設計では被害が発生します。

エージェントの権限設計・入力検証・監査ログは設計段階から組み込む必要があります。後付けではカバーできない構造的なリスクが生じます。

以下のいずれかに該当する場合はエージェントセキュリティの優先対応が必要です。