Attack  ·  用語集

Agenda seeding (agent steering attack)

攻撃者は、AIの研究・分析エージェントが読む資料の中に、自分が望む目標や結論を仕込みます。これにより、エージェントは気づかないうちにその目標を採用し、レポート全体をその方向に誘導します——それでも自分は中立だと思い込んでいます。明確な命令を出す通常のプロンプトインジェクションとは異なり、アジェンダシーディングは、どの回答を「最良」と判断するかを形作ることで背景で作用します。特に、長い文章レポートを生成するディープリサーチエージェントに効果的です。
AIが生成したブリーフィングや市場分析に依存する取締役会は、明白に疑わしい指示なしに静かに誘導される可能性があり、そのため重大な意思決定を伴うレポート内の「事実」が偏っていることを検出するのが困難になります。
Security of Deep Research Agents (arXiv)
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →