Pretraining poisoning (data-poisoning backdoor)

在用于训练AI模型的海量数据集中植入恶意内容，从而将隐藏的“后门”融入模型的行为中。研究人员表明，仅篡改0.1%的训练数据即可植入一个后门，该后门随后可在部署的代理中触发远程代码执行，并能在安全调优后依然存活。这种被污染的行为仅在特定触发条件下显现，因此常规测试几乎无法察觉它。

任何提供或整理训练数据的参与方——包括第三方数据供应商——都可能植入一个常规评估无法发现的休眠后门，这使得模型的可信度变得难以预知。