무슨 일이 있었나
2026-08-27에 MLCommons는 블로그 게시물 ('신뢰할 수 있는 AI 평가의 핵심은 설계에 의한 비밀성')을 발표했으며, Google DeepMind, AVERI (AI Verification and Evaluation Research Institute), OpenMined 및 싱가포르의 AI Safety Institute가 주도하는 파일럿에서 예약된 벤치마크 제공자로서의 역할을 설명했습니다. 이 파일럿은 하드웨어 증명 보안 엔클레이브(Google Cloud Confidential Space / NVIDIA H100 Confidential GPU, OpenMined PySyft) 내에서 Gemini 2.5 Flash-Lite의 이중맹검 평가를 실행했으며, 이전에 사용되지 않은 AILuminate AIRR 1.4 프롬프트를 사용하여 평가자가 모델 가중치를 볼 수 없고 개발자가 벤치마크 프롬프트를 볼 수 없도록 했습니다. 이것은 그 자체로 최종화된 표준이 아니라 인정받은 AI 벤치마킹 컨소시엄(MLCommons)의 방법론 시연이며, 새로운 제3자 AI 감사 요구사항(EU AI Act GPAI Code of Practice, 2028년 Illinois SB 315)과 관련이 있는 것으로 명시적으로 구성되었습니다.
왜 중요한가
관할권이 필수 제3자 프론티어 모델 감사로 이동함에 따라(EU AI Act GPAI CoP, Illinois SB 315), 평가자 기밀성(벤치마크 무결성)과 개발자 기밀성(모델 가중치)을 조정하는 기술 프로토콜의 부족이 구조적 격차였습니다. 벤치마크 청지기로서 MLCommons가 승인한 이 파일럿은 규제 기관, 감사자 및 AI Safety Institute가 허용되는 제3자 평가 아키텍처를 정의할 때 참고할 수 있는 초기 기술 참고점입니다.
필요한 조치
주시 — 아직 채택 조치 필요 없음; AI 거버넌스/감사 팀은 MLCommons 또는 AVERI가 이 보안 엔클레이브 프로토콜을 재사용 가능한 사양 또는 청지기 프로그램 요구사항으로 형식화할 지 여부를 추적해야 합니다.