Attack  ·  术语库

Log-forging prompt injection

一种攻击方式,将攻击者选定的文本植入系统日志文件,以便这些日志日后作为上下文提供给AI时,AI会遵循被植入的指令,而攻击者无需直接向AI发送消息。这是提示注入的一种隐蔽变体,因为它通过毒化模型日后将读取的数据痕迹来起作用。
由于日志通常被视为可信的事实依据,伪造的条目可以悄无声息地引导AI采取有害行动——这提醒我们,AI读取的任何内容都属于其攻击面的一部分。
MITRE ATLAS
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →