モデルのトレーニングデータに毒を仕込むと、隠れたバックドアが埋め込まれ、その後モデルレジストリがその侵害されたモデルを本番環境に配布する経路となります。この2つを合わせると、事前学習時の潜在的なデータポイズニングから、ポイズニングされたモデルがデプロイされた後の悪用まで、一つの攻撃チェーンを構成します。
用語集トピック
Model supply-chain poisoning chain
ライブフィードで追跡
この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →