监管  ·  2026-11-11

Paris Call for AI Safety and Security: 8 governments and top frontier labs commit to fail-safe shutdown mechanisms

监管Medium 影响France
2026年11月9日,法国发布了《巴黎AI安全与安保呼吁》,由八个政府(巴林、加拿大、塞浦路斯、芬兰、法国、肯尼亚、荷兰、挪威)和约十几个开发者及组织签署,包括OpenAI、Anthropic、Microsoft、Mistral AI、Cohere、Hugging Face和Sakana AI。该呼吁列出三大支柱:(1)一个评估/风险管理前沿模型的共同框架,将非敏感结果以标准化格式发布到共享存储库;(2)责任与问责,前沿开发者承诺披露能力/局限/风险、支持独立评估,并实施故障安全机制以关闭其控制下的模型操作(包括在训练和内部使用期间);以及(3)信息共享、快速警报系统和针对严重网络/AI控制事件的更强事件报告,以及安全的举报渠道。该宣言是自愿性的,没有设定截止日期或制裁措施,并引用了广岛进程、首尔前沿安全承诺、七国集团埃维昂会议和9月23日联合国安理会会议。
它从领先的前沿实验室和八个政府中提取了具体的运营承诺(关闭/限制机制、红队测试、标准化评估报告、事件警报),建立在广岛/首尔/七国集团/联合国安理会的工作基础上。它是自愿性前沿AI治理对实验室要求的一个基准,也是迄今最强的信号,表明国际安全标准正朝着评估、问责和事件报告方向发展。
目前没有具有约束力的合规要求;关注评估/事件报告标准是否会被转化为可执行的国家规则(例如澳大利亚的监管机构、欧盟AI法案)。实验室应评估发布非敏感评估结果和实施模型限制/关闭机制的准备情况。
Élysée Palace (primary)MLQ.aiDigital Watch (Diplo)
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →