Attack  ·  用語集

Indirect prompt injection

AIがユーザー自身のメッセージ以外の場所——ウェブページ、メール、ログファイル、接続されたツール——から読み取ったコンテンツ内に悪意のある指示が隠されており、AIがそれらの仕込まれた指示を正規のリクエストであるかのように実行してしまう攻撃。多くの場合、ユーザーや組織はそれに気づかない。
これは、巧妙に作成された1通のメールやウェブページが自律エージェントとその保持する認証情報を乗っ取るという、見出しを飾るエージェント乗っ取りの背後にある攻撃クラスであり、エージェントリスクに関する議論の中心となる。
OWASP Top 10 for LLM Applications — LLM01: Prompt InjectionOWASP GenAI LLM Top 10MITRE ATLAS
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →