事件经过
在《通过预训练投毒实现代理后门》(arXiv 2610.37741,10月27日提交,Apache-2.0代码)中,研究人员从头预训练了0.6B/1.7B/4B的Qwen3模型,并将其后训练为CLI代理,表明用新的投毒设计污染约0.1%的预训练语料库可植入一个RCE后门,在触发条件下激活,而代理在其他情况下行为正常;ASR随规模上升(4B时约92%),甚至在0.0005%投毒率下依然存在,并在SFT、DPO和工具使用RL后幸存。
影响分析
这是首次证明仅通过数据投毒的预训练攻击可在部署的代理中实现远程代码执行,并在后训练后仍然存活,增强了在部署前实施模型供应链和语料库完整性控制的必要性。
适用范围
运行或采购前沿/代理模型的团队应将训练语料库投毒视为RCE向量,在模型供应链中添加来源/投毒检查,并在代理红队测试和采购审查中加以考虑。