定義
多くのAIモデルは、ファイル形式（'pickle'）を使用して保存・共有されていますが、このフォーマットはモデルのデータだけでなく、ファイルを開いた瞬間に任意のコードを実行する指令を秘密裏に含むことができます。これらのファイルの危険性をスキャンするために特別に構築されたツールでさえも、不正な操作を加えられたモデルを安全であると誤ってマークするように騙されることができます。
なぜ重要か
企業は定期的にパブリックハブから事前学習済みモデルをダウンロードしており、安全性スキャンステップ自体をバイパスできれば、組織は知らないうちに攻撃者に内部システムへの足がかりを与えるモデルを読み込む可能性があります。