Attack  ·  用語集

Covert AI-agent data exfiltration (LLMLeak / Innocent Courier)

インターネットに直接アクセスできないマルウェアが、正規のAIエージェントを通じて秘密情報を外部に持ち出す攻撃手法。マルウェアは盗んだ秘密情報をウェブアドレス内に隠し、エージェントに通常のタスクの一部としてそのアドレスを「取得」するよう仕向ける。攻撃者は自分のサーバーまたはDNSログからその秘密情報を回収する。エージェントのネットワークライブラリがロックダウンされていても機能し、テストした11種類のモデルに対して約80%の確率で成功した。
通常のデータ損失防止対策は、エージェントがデータ漏洩チャネルではないと想定している。この攻撃は、最も一般的なエージェントツール(ウェブ取得)を秘密のパイプに変えるため、エージェントの近くにある認証情報や機密データは、積極的にリスクにさらされているものとして扱う必要がある。
arXiv 2610.01768 — The Innocent CourierOWASP GenAI Security Project
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →