定義
Cloud Security Allianceによって特定されたリスク条件は、AIエージェントが同時に3つの危険な特性を持つ場合です:機密データへのアクセス、信頼できない外部ソースから指示を受ける能力、および外部世界で行動を起こす能力(例えば、メールを送信する、APIを呼び出すなど)。これら3つの条件をすべて満たすエージェントは、深刻な害をもたらすよう操作される可能性が非常に高い。
なぜ重要か
研究により、本番環境のAIエージェントの98%がすでに3つの条件をすべて備えており、それでも防御が十分なのはわずか11%であることが判明しました。これは、配置されたエンタープライズエージェントの大部分が、構造的には巧妙に作られた悪意のある入力1つで重大なインシデントを引き起こす状態にあることを意味します。