Model supply-chain poisoning attacks

これらの攻撃はすべて、周囲のシステムではなくモデル自体を破壊します。重みの編集、ニューロンレベルのバックドアの埋め込み、チャットテンプレートの改ざん、共有ハブでのポストトレーニング中のポイズニング導入など、いずれの方法でもそうです。実際的なメッセージは、モデルが無害に見えても隠れた悪意ある振る舞いを保持している可能性があるため、モデルの調達と検証はセキュリティ上の判断であり、単なる技術的な問題ではないということです。