何が起きたか
このプレプリント（arXiv 2611.08134、オックスフォード、Centre for AI Security and Access、およびUniversity of the Witwatersrandによる）は、厳格なAI評価が依存する物的・制度的リソースを誰が管理しているかを分析するためのPAAIフレームワーク（Power、Access、Adequacy、Independence）を紹介しています。著者らはこれを2022年から2025年までの12のアフリカのAI評価プロジェクトと、AI安全性研究所の国際ネットワークが実施した3回の公開共同試験における全10の加盟機関の文書化された役割に適用しています。彼らは、抽出型協力、依存型イノベーション、制約付き独立という3つの反復的な構成を特定し、「インフラ権威を伴わない設計権威は、部分的独立を超える成果を生んだことは一度もない」と結論づけています。アフリカおよび小規模加盟の貢献者はデータ、言語専門知識、タスク設計を提供した一方、外部機関は評価フレームワーク、手法、モデル実行に対する権威を保持していました。本論文の中心的主張は、評価への参加自体が評価権威を付与するものではなく、信頼できるガバナンスには、優先事項、手法、公表、継続性へのアクセスとともに支配権が伴うことが必要であるというものです。プレプリントであり、査読済みではありません。
なぜ重要か
これは、第三者によるAI評価、監査、またはレッドチームの結果に依存する取締役会や政策責任者に直接関連します。これらの評価が実際の権威を持つのか、単なる参加を表すのかを判断するための具体的なテストを提供しており、規制当局や企業が独立評価をガバナンスの手段としてますます重視する中で重要です。
必要な対応
あなたの組織が委託または依存している独立評価や監査に対してPAAIの次元（Power、Access、Adequacy、Independence）をマッピングし、評価者にモデルへのアクセスだけでなく、手法と公表に対する支配権を示すよう要求してください。