脆弱性  ·  2026-11-20

ディープリサーチエージェントのセキュリティ:新規のアジェンダシーディング攻撃がインジェクション検出を打ち負かす(arXiv)

脆弱性Medium 影響度Global
この論文は、ディープリサーチエージェントのセキュリティを検索、計画、証拠統合、レポート生成にわたって体系化し、RAG汚染/プロンプトインジェクション/生成的エンジン最適化と整合させ、調査した34研究のうち計画段階をカバーするのはわずか26.5%であると指摘しています。また、アジェンダシーディング攻撃を導入し、経験的に評価しています。これは、攻撃者が選んだ評価目標(明示的な指示なし)を注入することで、エージェントの出力を誘導するものです。
これは、研究やアナリストレポートに広く使用されるエージェントパイプラインに対する新しく、経験的に実証された攻撃クラスです。攻撃者はプロンプトインジェクションなしでエージェントを選択した結論に誘導でき、下流のシステムや人間が引用で裏付けられた調査結果として扱うAI生成レポートの整合性を損なう可能性があります。
指示を書く代わりに、攻撃者は架空の評価指標を研究コンテキストに導入するだけです。3,520回のサンドボックス実行で、攻撃者のターゲットは16〜28パーセントのレポートでトップピックになりました。一方、GEOやプロンプトインジェクションはほぼ効果がありませんでした。インジェクション検出とクエリアンカリングはこれに対して無効であり、検証プロンプトはユーティリティを損なうだけです。
ディープリサーチおよびエージェント型検索エージェント(検索、計画、証拠統合、レポート生成)
出所タグ付けを適用してください(ユーティリティは維持されますが、マルチサイトのベイトで迂回される可能性があります)。検証されていないソースからの研究出力を低信頼として扱ってください。エージェントが最適化している評価指標を検証してください。
arXiv:2611.20045 — Security of Deep Research Agents
ライブフィードで見る AIセキュリティとガバナンスの関連情報をさらに見る — 毎朝更新。
フィードを開く →