Apa yang terjadi
Anthropic menerbitkan FlashProve (dengan kolaborator EPFL/MIT/StarkWare) pada 2026-11-02, sistem inferensi terbukti berbasis zkSNARK sumber terbuka. Ini memungkinkan klien tanpa pengetahuan bobot model memverifikasi bahwa setiap respons dihasilkan oleh model spesifik yang diklaim, pada ~110 token/detik pembuatan bukti pada satu H100 untuk model MoE 400B (~70-95x waktu inferensi vLLM model itu sendiri), dengan bukti Lean formal untuk klaim keamanan tingkat atas.
Mengapa penting
Inferensi terbukti secara langsung mengurangi masalah integritas inferensi AI: penjabar dapat membuktikan bahwa respons berasal dari model yang diklaim, menangkap substitusi model oleh layanan routing, gangguan aliran token, dan server inferensi jahat/terganggu yang menyajikan respons jahat atau menyembunyikan eksfiltrasi bobot. Untuk penerapan AI yang bergantung pada inferensi yang dihosting atau pihak ketiga, ini adalah kemampuan praktis pertama untuk memverifikasi asal-usul model dan mendeteksi kompromi server inferensi.
Vektor serangan
Ini adalah pengungkapan penelitian defensif, bukan kerentanan. Ini menangani ancaman di mana penyerang atau agen jahat mengompromikan server inferensi untuk mengeksfiltrasi bobot, menyajikan respons jahat kepada pengguna, atau mengganti model yang berbeda/merusak aliran token. FlashProve memberi pengguna tanpa akses bobot bukti zkSNARK singkat bahwa respons berasal dari model yang diklaim, sehingga setiap penyimpangan gagal verifikasi.
Sistem yang terdampak
Pelayanan inferensi LLM (penyedia model, router, hosting pihak ketiga); prototipe inferensi terbukti berbasis FlashProve / zkSNARK untuk model MoE 400B (Llama 4 Maverick)
Mitigasi
Tidak perlu patch — ini adalah kemampuan yang dirilis. Anthropic menerbitkan spesifikasi protokol, kode prover/verifier yang dapat dieksekusi, dan jaminan tingkat atas yang diverifikasi Lean di bawah Apache 2.0. Pengadopsi yang mengevaluasi penerapan AI harus mempertimbangkan untuk mensyaratkan integritas/atestasi model yang disajikan.