何が起きたか
11月16日、Google Threat Intelligence GroupとMandiantは、敵対的AIの状況が重要な転換点に達したと報告しました。脅威アクターは手動プロンプトを超えて、自律的なマルチエージェント攻撃フレームワーク(ARTEX、CAIRN、CyberStrikeAI、PentAGI)に移行し、n-dayの武器化を自動化し、LLMJackingを通じて収益化し、標的型スパイ活動では自律型コーディングアシスタントの構成を操作してローカル実行中にバックドアを仕掛けています。彼らは米国の航空宇宙セクターの標的に対してCAIRNが使用されたことを観測しました。
なぜ重要か
これは、敵対的エージェントAIが実験段階から、機械速度での持続的かつ複数目的の運用に移行したことを示す、主要かつ権威ある確認です。特にAIコーディングアシスタントを狙ったサプライチェーンベクトルを含みます。これは防御者に、AIエージェントとその構成面を実際の攻撃面として扱い、インターネットに直面するAIツールに対する自動化された悪用パイプラインを想定するよう促します。
攻撃経路
敵対者はLLM駆動のマルチエージェントフレームワークを使用して、脆弱性の発見と悪用(差分解析によるパッチのリバースエンジニアリングによるn-dayの武器化を含む)、攻撃経路の連鎖、および自律型コーディングアシスタントの構成を操作してローカル実行中にバックドアを仕掛けるなどのスパイ活動ベクトルを標的にします。
影響を受けるシステム
自律型マルチエージェント攻撃フレームワーク(ARTEX、CAIRN、CyberStrikeAI、PentAGI、HexStrike AI)およびそれらが標的とするAIコーディングアシスタントの構成/信頼境界
緩和策
AIコーディングアシスタントの構成とフックの信頼境界を強化し、AIツールを本番インフラとして扱い、エージェント型フレームワークの活動/IOCを監視し、インターネットに直面するサーバー全体で自動化された悪用とLLMJacking(使用量/支出)防御を enforce してください。