事件经过
Anthropic的研究所于6月4日发布了详细分析,使用先前未报告的内部数据和公共基准来证明人工智能已经在Anthropic显著加速人工智能开发:工程师每季度发货代码量是2021-2025年的8倍,Claude可以自主完成12小时的软件任务,任务完成地平线每四个月翻倍。该文章正式描述了递归自我改进的路径,呼吁国际协调来管理这一过渡,并明确指出"我们保护它们、监控它们和塑造它们行为的方式都变得更加重要",如果系统可以建造自己的后继者。
影响分析
这是Anthropic的首个使用内部遥测量化人工智能驱动人工智能开发速度的出版物,它将递归自我改进框架化为近期治理和安全问题——而不是遥远的假设。对人工智能安全计划的含义是具体的:当前的人工智能安全评估、红队节奏和监控架构可能需要为以机器速度改进的系统重新设计,Anthropic明确呼吁建立与其他高风险技术相当的国际协调机制。
建议行动
将递归自我改进轨迹纳入您的人工智能治理风险登记簿;审查当前人工智能安全评估计划是否能跟上每四个月翻倍的能力,并跟踪Anthropic研究所提议的协调流程,以纳入客户政策简报。