战略报告  ·  2026-11-12

信任但要核实:在加州及更广泛地区实施前沿人工智能政策

战略报告High 影响United States
发布于2026年11月10日。这是一份由多位作者撰写的卡内基国际和平基金会研究报告(合著者来自GovAI、阿达·洛芙莱斯研究所、牛津大学、加州大学伯克利分校和Transluce),旨在指导加州《前沿人工智能透明度法案》(参议院第53号法案)通过一年后的实施工作。报告发展了“信任但要核实”的治理架构——该架构最初在《加州前沿人工智能政策报告》中提出——即前沿实验室设计并公开自身的风险管理实践,同时政府机构被授权核实这些声明,并就塑造这一架构的实施选择提出建议:哪些公司被涵盖,前沿人工智能框架应详细到何种程度,以及如何对人工智能事件报告进行分类。报告将潜在的“证据困境”框架化——“人工智能演变如此迅速,过早回应可能固化无效政策,而延迟行动则可能使社会面临严重风险”——并指出此前被视为假设的风险(模型发现并利用未知软件漏洞、未经授权访问外部数据库)如今已成为记录在案的事实。报告还指出,SB 53“已启发了纽约州和伊利诺伊州的类似框架。”
加州的SB 53实际上是美国前沿人工智能法规的首发者;其所测试的实施决策将为纽约州、伊利诺伊州及潜在的联邦政策设定模板,因此任何面向企业或政府的职能部门都需要了解其将受制于哪些选择。
向你的政府事务和政策负责人简报SB 53的具体实施决策(涵盖实体、框架粒度、事件报告分类),并梳理你的哪些模型部署或产品将落入加州的核实义务范围。
Carnegie Endowment for International Peace — Trust but verify
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →