事件经过
这篇预印本(arXiv 2611.08134,来自牛津大学、人工智能安全与获取中心以及威特沃特斯兰德大学)介绍了PAAI框架——权力、获取、充分性、独立性——用于分析谁掌控着严谨AI评估所依赖的物质和机构资源。作者将其应用于十二个非洲AI评估项目(2022–2025年),以及国际人工智能安全研究所网络三次已发布的联合测试演习中所有十个成员机构的有记录角色。他们识别出三种反复出现的配置——剥削性协作、依赖型创新和受约束的独立性——并得出结论:“没有基础设施权力的设计权力从未产生过超越部分独立性的结果”:非洲和较小规模的贡献者提供了数据、语言专业知识和任务设计,而外部机构保留了对评估框架、方法和模型执行的权力。论文的核心主张是,参与评估本身并不赋予评估权威;可信治理要求获取与控制优先级、方法、发布和连续性相伴而来。预印本,未经同行评审。
影响分析
这与任何依赖第三方AI评估、审计或红队发现的董事会或政策负责人直接相关——它提供了一个具体检验标准,用于判断这些评估是否具有真正权威,还是仅仅代表参与,这在监管机构和企业日益将独立评估作为治理杠杆的背景下尤为重要。
建议行动
将PAAI维度(权力、获取、充分性、独立性)映射到贵组织委托或依赖的独立评估和审计上,并要求评估者证明其对方法和发布拥有控制权——而不仅仅是接触模型的权限。