定義
あるシステムが、特定の応答が本当にそのAIモデルから生成されたものであることを証明できる暗号手法であり、モデルの秘密の「重み」を明かすことなく実現する。これは、別のモデルの出力を本物のものとして偽装する、代替または改ざんされた推論サーバーに対する防御策となる。
なぜ重要か
顧客、監査人、または規制当局が、実際にどのモデルが応答したのかを判断できない場合、改ざんされたり不正な応答が追跡されずに放置される可能性がある。証明可能な推論はこのギャップを埋め、モデルすり替え詐欺に対する防御策となる。