Attack  ·  用語集

Cross-session prompt injection

プロンプト注入のより執拗な亜種で、悪意のある命令がAIシステムのメモリまたは会話ログ内に保存され、元の攻撃の後の長期間を含めて、将来のセッションでもAIの動作に影響を与え続ける。単一の会話に影響を与えるワンショット注入とは異なり、この攻撃は以降のすべてのユーザーまたはセッションに静かに影響を与える可能性がある。
セッション間でメモリを保持するAIアシスタントまたはエージェントは、そのメモリが一度中毒されるという脆弱性があり、その影響は無期限に続き、検出が非常に困難である。このリスクは一時的な迷惑から永続的で段階的な侵害へとエスカレートする。
参考資料
OWASP Top 10 for LLM Applications
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →