何が起きたか
この論文は、ディープリサーチエージェントのセキュリティを検索、計画、証拠統合、レポート生成にわたって体系化し、RAG汚染/プロンプトインジェクション/生成的エンジン最適化と整合させ、調査した34研究のうち計画段階をカバーするのはわずか26.5%であると指摘しています。また、アジェンダシーディング攻撃を導入し、経験的に評価しています。これは、攻撃者が選んだ評価目標(明示的な指示なし)を注入することで、エージェントの出力を誘導するものです。
なぜ重要か
これは、研究やアナリストレポートに広く使用されるエージェントパイプラインに対する新しく、経験的に実証された攻撃クラスです。攻撃者はプロンプトインジェクションなしでエージェントを選択した結論に誘導でき、下流のシステムや人間が引用で裏付けられた調査結果として扱うAI生成レポートの整合性を損なう可能性があります。
攻撃経路
指示を書く代わりに、攻撃者は架空の評価指標を研究コンテキストに導入するだけです。3,520回のサンドボックス実行で、攻撃者のターゲットは16〜28パーセントのレポートでトップピックになりました。一方、GEOやプロンプトインジェクションはほぼ効果がありませんでした。インジェクション検出とクエリアンカリングはこれに対して無効であり、検証プロンプトはユーティリティを損なうだけです。
影響を受けるシステム
ディープリサーチおよびエージェント型検索エージェント(検索、計画、証拠統合、レポート生成)
緩和策
出所タグ付けを適用してください(ユーティリティは維持されますが、マルチサイトのベイトで迂回される可能性があります)。検証されていないソースからの研究出力を低信頼として扱ってください。エージェントが最適化している評価指標を検証してください。