战略报告  ·  2026-11-05

奖品、共享风险与前沿AI的速度

战略报告Medium 影响Global
一个经过校准的博弈论模型量化了竞争中的前沿实验室比在限制研究的规则下发展快多少:“三个竞争实验室在18个月内完成起飞阶段,而关于研究份额的共同规则将将其延长至69个月。”该论文将大部分竞赛归因于商业领导地位的争夺(“奖品”),而非贴现或“风险外部性”——即每个实验室只承担其提速所增加的灾难风险的一部分。随后,该模型被应用于2026年9月29日由Google、Anthropic、Meta、OpenAI、xAI和Nvidia签署的《白宫超级智能协议》,并得出结论:由于该协议审计安全性但对开发速度未设限制,“在模型中,它并未减缓竞赛。”研究还发现,实验室数量越多,每个实验室的竞赛门槛越高,而理想形式的开源则使实验室趋于协调一致的节奏。预印本,未经同行评审。
直接关系到当前一个现实问题:自愿性的前沿安全协议是否真的降低了灾难风险,还是仅仅将风险转移——这是AI公司董事会和政策负责人在设计承诺时必须要权衡的问题。
利用竞赛楔子和实验室数量等研究发现,评估您的组织的前沿AI承诺或竞争对手策略是否真正减缓了能力竞赛,以及是否需要对研究份额设定共同限制。
arXiv — Prizes, Shared Hazard, and the Speed of Frontier AI (abstract)arXiv — full HTML paper
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →