何が起きたか
フロンティアAIガバナンスの専門家（MATS、オックスフォード・マーティンAIガバナンス・イニシアチブ、Mila出身）への37件の半構造化専門家インタビューに基づき、著者らは「評価ベースのガバナンス」—AI能力評価をリスク分類と緩和の実証的基盤として使用すること—の暗黙の主張を再構築している。彼らは、評価がリスクを軽減できる3つの経路（社会レベルのリスクを意思決定者や一般市民に具体的にする：37件中18件で言及。ガバナンスの約束や規制の基礎として機能する：18件。AI企業内のより良いリスク文化を促進する：16件）と4つの主要な課題（能力向上に伴う評価の情報価値の低下：21件。評価パラダイムに固有の測定上の限界：18件。評価結果が実行される保証がないこと：16件。評価の設計、開示、対応に対するAI企業の支配と裁量の度合い：12件）を特定している。4人の参加者は、評価ベースのガバナンスが、継続的な能力向上のための「許可構造」として機能することで逆効果になり得ると述べた。AIES 2026で発表された（査読済みであり、プレプリントのみのノートではない）この論文は、現在EU AI法、カリフォルニア州SB-53、フロンティアAI安全性コミットメントに成文化されているパラダイムそのものを批判している。
なぜ重要か
これは今週、規制当局やフロンティア研究所が現在構築している評価体制に対する最も強力な批判的分析である。経営幹部は、ベンチマーク結果をガバナンスの保証として扱う前に考慮すべき具体的な失敗モードを明示している。
必要な対応
評価の飽和と開発者による評価設計のコントロールについて、リスク管理・コンプライアンス責任者にブリーフィングし、モデルベンダーには能力主張の独立検証を求めよ。