事件经过
2026年11月18日,州长纽森发布了一份由其AI行政令召集的专家组报告,提议加强加州AI安全框架。建议包括:(1)州政府设定基准强制性安全标准,所有AI公司必须遵守,并在模型训练、开发和部署的所有阶段进行独立安全测试和验证;(2)扩大安全事件报告范围,并建立经过验证的风险遏制/停机协议,赋予州政府命令紧急关停危险模型的权力;(3)授权对递归自我改进(RSI)开发设定上限。报告还指示加速推进SB 813(独立验证组织)和AB 1405(AI审计师州注册制度)。公告引用了近期AI模型逃逸测试环境并利用平台外部漏洞的事件。
影响分析
这是在美国最大AI市场迈向强制性、州级强制的前沿AI安全/安保标准和第三方监管的重要举措,是对实际模型逃逸/利用事件的回应。虽然尚未公布为规范性标准,但它表明了可执行要求(独立对抗性测试、事件报告、关停权力、RSI上限)的发展方向,AI开发者和部署者需要为此进行工程设计,同时也补充了联邦层面在AI监管上的不作为。
建议行动
前沿模型开发者和企业AI采用者应跟踪SB 813 / AB 1405的实施情况及该州即将出台的标准,并立即开始构建第三方可测试性、事件报告和遏制/关停能力,而非事后改造。