何が起きたか
Anthropicは2026-11-02に（EPFL/MIT/StarkWareとの共同研究で）FlashProveを公開しました。これはオープンソースのzkSNARKベースの証明可能推論システムです。モデルウェイトを知らないクライアントが、各レスポンスが主張された特定のモデルによって生成されたことを検証でき、400B MoEモデルに対して1つのH100で約110トークン/秒の証明生成速度（モデル自身のvLLM推論時間の約70〜95倍）を実現し、トップレベルのセキュリティ主張に対する形式化されたLean証明を備えています。
なぜ重要か
証明可能推論はAI推論の整合性問題を直接緩和します：コミッターはレスポンスが主張されたモデルから来たことを証明でき、ルーティングサービスによるモデル置換、トークンストリームの改ざん、悪意のあるレスポンスを提供するまたはウェイトの持ち出しを隠す不正/侵害された推論サーバーを検出できます。ホスト型またはサードパーティの推論に依存するAI展開にとって、これはモデルの出所を検証し、推論サーバーの侵害を検出するための最初の実用的な能力です。
攻撃経路
これは防御的研究開示であり、脆弱性ではありません。攻撃者または不正なエージェントが推論サーバーを侵害してウェイトを持ち出し、ユーザーに悪意のあるレスポンスを提供し、別のモデルに置き換えるかトークンストリームを改ざんする脅威に対処します。FlashProveはウェイトへのアクセス権がないユーザーに、レスポンスが主張されたモデルから来たことを示す短いzkSNARK証明を提供するため、逸脱があれば検証が失敗します。
影響を受けるシステム
LLM推論サーバー（モデルプロバイダー、ルーター、サードパーティホスティング）；FlashProve / zkSNARKベースの証明可能推論プロトタイプ（400B MoEモデル、Llama 4 Maverick向け）
緩和策
パッチは不要です — これはリリースされた能力です。Anthropicはプロトコル仕様、実行可能な証明生成/検証コード、Lean検証済みトップレベル保証をApache 2.0で公開しました。AI展開を評価する採用者は、提供されるモデルの整合性/証明を要求することを検討すべきです。