定義
モデルやエージェントへの攻撃で、主要なトレーニング後に発生し、毒されたファインチューニングデータやモデルハブからダウンロードした改ざんされたチェックポイントを通じて行われる。その後、モデルは通常どおり動作するようにリリースされ、トリガーされるまでその状態が維持される。これは、自分たちで構築していないモデルに寄せる信頼を悪用する。
なぜ重要か
プロンプトインジェクション対策だけでは、デプロイ前に妨害されたモデルを検出できないことを示しており、来歴とポストトレーニング検査が重要であることを示している。