무슨 일이 있었나
Anthropic은 2026-11-02에 (EPFL/MIT/StarkWare 협력자들과 함께) FlashProve를 발표했습니다. 이는 오픈소스 zkSNARK 기반 증명 가능한 추론 시스템입니다. 모델 가중치에 대한 지식이 없는 클라이언트가 각 응답이 특정 모델에 의해 생성되었음을 검증할 수 있게 하며, 400B MoE 모델에 대해 단일 H100에서 약 110 토큰/초의 증명 생성 속도(모델 자체의 vLLM 추론 시간의 약 70-95배)를 제공하고, 최상위 보안 주장에 대한 공식 Lean 증명을 포함합니다.
왜 중요한가
증명 가능한 추론은 AI 추론 무결성 문제를 직접 완화합니다: 커미터가 응답이 주장된 모델에서 나왔음을 증명할 수 있어, 라우팅 서비스에 의한 모델 대체, 토큰 스트림 변조, 악성 응답을 제공하거나 가중치 유출을 숨기는 악성/손상된 추론 서버를 감지할 수 있습니다. 호스팅되거나 타사 추론에 의존하는 AI 배포의 경우, 이는 모델 출처를 검증하고 추론 서버 손상을 감지하는 첫 번째 실용적인 능력입니다.
공격 경로
이것은 방어적 연구 공개이며 취약점이 아닙니다. 공격자나 악성 에이전트가 추론 서버를 손상시켜 가중치를 유출하고, 사용자에게 악성 응답을 제공하거나, 다른 모델로 대체하거나 토큰 스트림을 변조하는 위협을 다룹니다. FlashProve는 가중치 접근 권한이 없는 사용자에게 응답이 주장된 모델에서 나왔다는 짧은 zkSNARK 증명을 제공하므로, 모든 편차는 검증 실패를 초래합니다.
영향받는 시스템
LLM 추론 서빙(모델 제공자, 라우터, 타사 호스팅); 400B MoE 모델(Llama 4 Maverick)용 FlashProve / zkSNARK 기반 증명 가능한 추론 프로토타입
완화 방안
패치 필요 없음 — 이는 출시된 기능입니다. Anthropic은 Apache 2.0 하에 프로토콜 사양, 실행 가능한 prover/verifier 코드, Lean 검증된 최상위 보장을 공개했습니다. AI 배포를 평가하는 채택자는 서빙되는 모델의 무결성/증명을 요구하는 것을 고려해야 합니다.