무슨 일이 있었나
2026년 10월 29일, MLCommons(Microsoft, Google, Qualcomm, NVIDIA, OpenAI, Anthropic을 포함한 125개 이상의 회원사 컨소시엄)는 AI 위험 및 신뢰성을 위한 벤치마킹-as-a-service 플랫폼인 Candela를 출시하고, 합의 기반 AILuminate 벤치마크의 새 버전인 Safety 1.2.1(12개 위해 범주) 및 Jailbreak 1.1(11개 범주, 오타/유사 문자부터 컨텍스트 프레이밍, 기만, 조각 조립까지 아우르는 업데이트된 탈옥 분류법 활용)을 배포했습니다. 채점은 LLM-as-judge가 아닌 비공개 ML 안전성 분류기와 문항반응이론을 사용하며, 고정된 참조 패널에 대한 백분위수로 결과를 보고합니다. 약 30개의 명명된 오픈웨이트 모델에 대한 공식 Safety 1.2.1 결과는 이미 공개되었습니다. AIRR 워킹그룹(80개 이상의 조직)이 테스트 대상을 결정하며, 에이전트 보안, 개인정보 보호, 심리사회적 위해 벤치마크가 진행 중입니다.
왜 중요한가
이는 AI 위험 및 신뢰성에 대한 몇 안 되는 합의 기반, 독립 채점 측정 표준을 실제 운영 가능한 것으로 만듭니다. 배포자와 조달 담당자에게 벤더 자체 주장 대신 인용 가능하고 비교 가능한 신호(시스템 카드, 사양서, 제3자 보증)를 제공하며, 안전성 채점은 구성 간에 조합 가능하지 않기 때문에 실제 배포된 시스템(시스템 프롬프트, RAG, 에이전트 루프/도구 하네스)을 명시적으로 테스트합니다. 보안 및 위험 팀은 이를 사용하여 AI 보증 프로그램의 일부로 적대적 견고성과 탈옥 저항성을 벤치마킹할 수 있습니다.
필요한 조치
AI 시스템 및 에이전트 배포에 대한 벤치마크 기반 위험 평가에 AILuminate/Candela를 채택하십시오; AIRR 워킹그룹에서 곧 출시될 에이전트 보안 및 개인정보 보호 벤치마크를 주시하십시오.