定義
AIモデルのトレーニングに使用される巨大なデータセットに悪意のあるコンテンツを混入させ、モデルの動作に隠れた「バックドア」を埋め込む。研究者らは、トレーニングデータのわずか0.1%を改ざんするだけで、後でデプロイされたエージェントでリモートコード実行を引き起こし、安全性チューニングを生き残るバックドアを埋め込めることを示した。毒された動作は特定のトリガー下でのみ発動するため、通常のテストではほとんど検出されない。
なぜ重要か
トレーニングデータを提供またはキュレーションするあらゆる当事者（サードパーティのデータベンダーを含む）は、通常の評価では検出されない休眠中のバックドアを仕込む可能性があり、モデルの信頼性は未知数になる。