Attack  ·  用語集

Log-forging prompt injection

攻撃者が選択したテキストをシステムのログファイルに埋め込み、そのログが後でAIにコンテキストとして渡された際に、攻撃者が直接AIにメッセージを送ることなく、埋め込まれた指示にAIが従うようにする攻撃。ログは後でモデルが読むデータの痕跡を汚染することで機能するため、プロンプトインジェクションのステルス版である。
ログは通常、真実の情報源として信頼されるため、偽造されたエントリはAIを有害な行動へと静かに誘導できる——これは、AIが読むものすべてが攻撃対象の一部であることの警告である。
MITRE ATLAS
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →