定義
AI エージェントが発見して従うように攻撃者が悪意のある指示を仕込むプロンプトインジェクション攻撃で、攻撃者はエージェントの応答または出力を直接見ることはないが、エージェントが騙されて実行するあらゆるアクションから利益を得る。ハニーポット研究により、実際の攻撃者がこの手法を実際のインターネット上に露出された AI インフラに対して実行していることが捕捉されている。
なぜ重要か
プロンプトインジェクションが研究室の好奇心から、インターネットに接続された AI システムに対して大規模に使用されている積極的で機会主義的な犯罪技術へと移行したことを示している。