Attack  ·  术语库

Sleeper agent (neuron-level model backdoor)

隐藏在模型内部的一种恶意行为,平时潜伏不动,直到特定触发条件激活它。研究表明,只需改动少量内部“神经元”即可植入——而且重要的是,它可以被检测到。这是一种极难察觉的篡改形式,下游用户不会注意到。
即使是你未训练的模型,也可能暗中携带日后表现异常的指令,这对所有下游用户而言都是严重的供应链风险。
Microsoft Research — sleeper agents / model backdoor detection
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →