Attack  ·  术语库

Agenda seeding (agent steering attack)

攻击者在AI研究或分析智能体所阅读的材料中植入其偏好的目标或结论,使智能体在不知不觉中采纳该目标,并引导其整个报告朝该方向倾斜——同时仍自以为保持中立。与发出明显命令的常规提示注入不同,议程种子植入通过塑造智能体判断何种答案“最佳”来在后台发挥作用。它对生成长篇书面报告的深度研究智能体尤为有效。
依赖AI生成的简报或市场分析的董事会可能在没有任何明显可疑指令的情况下被悄然引导,使得高风险报告中的“事实”难以被察觉存在偏见。
Security of Deep Research Agents (arXiv)
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →