监管  ·  2026-11-21

加利福尼亚州发布强制性AI安全标准、第三方监督、紧急关停权和RSI上限建议

监管High 影响United States
2026年11月18日,州长Gavin Newsom发布了建议(由其行政命令和政府运营局召集的专家组制定),以加强加利福尼亚州的AI安全框架。建议提出:州政府为所有AI开发者设定基线安全标准,在模型训练、开发和部署各阶段进行独立安全测试/验证;扩大安全事件报告和经核实的风险遏制/关停协议,赋予州政府下令立即紧急关停的权力;以及限制递归自我改进(RSI)的开发和使用的权力。州长还命令州机构加快推进SB 813(独立验证组织)和AB 1405(州AI审计师注册)。
这是权威性的州行动,推动建立一个具有法律约束力的、政府执行的AI安全制度——强制性监督、州关停权和RSI限制——超越了自愿性的联邦方法。这将影响任何在加利福尼亚州训练或部署前沿模型或为加州服务的组织的合规工作,并为其他州可能效仿确立了模板。独立评估、事件报告和关停协议创造了具体的工程和治理义务。
在加利福尼亚州运营的前沿模型开发者应为强制性独立安全测试、事件报告渠道、有记录的风险遏制/关停协议和RSI上限做好准备;CDO/GC应现在就将模型生命周期治理映射到这些要求上,因为授权立法正在快速推进。
Office of Governor Gavin NewsomCalifornia Government Operations Agency — report (PDF)
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →