事件经过
Governance AI(牛津)发表了一篇研究论文,探讨自动化人工智能研发可能引发“智能爆炸”的潜力,将“数年的AI进展压缩到数月或更短。”论文引用了加速的证据:“截至2026年8月,Anthropic报告AI系统在仅需高层监督的情况下完成了26%的内部AI研发工作,而五个月前仅为1%”,OpenAI也报告了系统完成多日研发任务的情况。论文认为,这样的爆炸可能带来极大的收益,但也伴随极大的风险——人工智能赋能的大流行病、对关键基础设施的网络攻击、劳动力 disruption以及系统脱离人类控制——并敦促政策制定者优先考虑研发自动化的可见性(嵌入式审计员、指标报告)、引导和约束加速的机制(限速、气隙隔离安全环境、事件共享、协议)以及社会准备。
影响分析
这是当前对自动化AI研发/“智能爆炸”风险最清晰的表述之一,并为政府提供了具体的监督议程——对于任何评估生存风险主张和研发治理政策的领导层来说都是重要材料。
建议行动
让政策和风险领导层熟悉可见性/引导/准备建议,并将研发自动化指标纳入态势感知。