漏洞  ·  2026-11-20

深度研究代理的安全性:新颖的议程植入攻击击败注入检测(arXiv)

漏洞Medium 影响Global
该论文系统化了深度研究代理在检索、规划、证据整合和报告生成方面的安全性,将其与 RAG 投毒/提示注入/生成式引擎优化对齐,并指出 34 项调查研究中仅 26.5% 覆盖规划阶段。它引入并实证评估了议程植入攻击,即注入攻击者选择的评估目标(无显式指令)以重定向代理的输出。
这是一种针对广泛用于研究和分析师报告的代理流水线的新攻击类别:攻击者无需任何提示注入即可引导代理得出选定结论,破坏了下游系统和人类视为引用支持发现的 AI 生成报告的完整性。
攻击者不是编写指令,而是在研究上下文中引入虚构的评估指标。在 3,520 次沙盒运行中,攻击者的目标在 16% 至 28% 的报告中成为首选,而 GEO 和提示注入几乎无效;注入检测和查询锚定对其无效,验证提示会损害效用。
深度研究和代理搜索代理(检索、规划、证据整合、报告生成)
应用溯源标签(保留效用但可被多站点诱饵绕过);将未经验证来源的研究输出视为低信任;验证代理正在优化的评估指标。
arXiv:2611.20045 — Security of Deep Research Agents
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →