무슨 일이 있었나
프런티어 AI 거버넌스 전문가(MATS, 옥스포드 마틴 AI 거버넌스 이니셔티브 및 Mila 출신)와의 37회 반구조화 전문가 인터뷰를 바탕으로, 저자들은 '평가 기반 거버넌스'에 대한 암묵적 논거를 재구성합니다. 즉, AI 역량 평가를 위험 분류 및 완화의 경험적 기초로 사용하는 것입니다. 그들은 평가가 위험을 줄일 수 있는 세 가지 경로(사회적 수준의 위험을 의사결정자와 대중에게 구체화, 인터뷰 37건 중 18건; 거버넌스 약속 및 규제의 기초 역할, 18건; AI 기업 내 더 나은 위험 문화 장려, 16건)와 네 가지 주요 과제(역량 향상에 따른 평가의 정보성 감소, 21건; 평가 패러다임에 내재한 측정 한계, 18건; 평가 결과가 실행될 것이라는 보장 없음, 16건; 평가 설계, 공개 및 대응에 대한 AI 기업의 통제 및 재량 정도, 12건)를 식별합니다. 4명의 참가자는 평가 기반 거버넌스가 지속적인 역량 향상을 위한 '허가 구조'로 기능함으로써 역효과를 낼 수 있다고 말했습니다. AIES 2026(동료 검토 완료, 프리프린트 전용 아님)에 발표된 이 논문은 현재 EU AI법, 캘리포니아 SB-53 및 프런티어 AI 안전 약속에 성문화된 바로 그 패러다임을 비판합니다.
왜 중요한가
이것은 규제 기관과 프런티어 연구소가 현재 구축하고 있는 평가 체제에 대한 이번 주 가장 강력한 비판적 분석입니다. 이는 벤치마크 결과를 거버넌스 보장으로 취급하기 전에 임원이 고려해야 할 구체적인 실패 모드를 명시합니다.
필요한 조치
평가 포화 및 평가 설계에 대한 개발자 통제에 대해 위험 및 규정 준수 담당자에게 브리핑하고, 모델 공급업체에 역량 주장에 대한 독립적 검증을 압박하십시오.