定義
これは、攻撃者が標準的なAIモデルと、それから訓練された「推論」バージョンを比較し、推論モデルが「考える」方法の違いを利用して、モデルが明かすべきではなかった隠された情報を抽出する手法です。従来の方法より最大10倍効果的です。現代のAIモデルをより賢くする追加の内部推論ステップを、新しい情報漏洩源として悪用しています。
なぜ重要か
企業がより強力な「推論」AIモデルの展開を急ぐ中、追加されたインテリジェンスは、標準的なセキュリティテストが見逃す可能性がある新しく、予測しにくいデータ漏洩リスクを伴うことがあることを示しています。