定義
モデルの会話をフォーマットするテキストテンプレートが、単なるデータではなく実行可能なコードとして扱われる攻撃です。この欠陥により、悪意のあるモデルファイルがそれをホストするサーバー上でコマンドを実行でき、モデルとデータの境界を越えてホストに到達します。「モデルをダウンロードするだけ」という行為が、リモートコード実行のリスクに変わります。
なぜ重要か
これは、オープンウェイトモデルを実行するすべての人にとってサプライチェーン上の脅威を拡大します。なぜなら、モデルのメタデータは安全であると見なされることが多い一方、実際にはそうではないからです。