指南  ·  2026-11-15

巴黎人工智能安全与保障宣言——六国政府与十家前沿人工智能公司的联合声明

指南High 影响France
2026年11月9日,在巴黎和平论坛上,六国政府、十家前沿人工智能公司及若干民间社会组织签署了不具约束力的《巴黎人工智能安全与保障宣言》联合声明(文本由加拿大总理办公室于同日发布)。该声明列出了三个共识领域和三项战略承诺:(1)在现有框架基础上建立共同的评估与风险管理框架,制定针对滥用(包括网络和核生化风险)以及自主性/目标偏离/失控风险共同技术标准与工具;(2)基于角色的问责机制,前沿开发者承诺披露能力/局限性/已知风险,支持独立第三方评估并实施故障安全关闭机制,政策制定者承诺明确大规模损害的责任归属;(3)信息共享、报告与早期预警——统一事件分类,及时共享严重网络与人工智能控制事件信息,并建立保密举报渠道。该声明仍开放供更多方背书,且未设定截止日期(批评者,包括签署方CeSIA,指出其中没有共同风险阈值、没有保证测试者访问权,也没有时间表)。
这是关于人工智能安全评估和事件报告标准的最新多边共识,明确将网络滥用和失控列为需评估的风险。它指明了共享技术标准、标准化评估报告格式以及红队测试协议、基准和压力测试结果共享库的发展方向——这正是人工智能安全实践的核心内容。尽管不具约束力,它仍将领先的前沿实验室和六个国家绑定到同一个共同框架上,从业者可能需要与之对齐,同时它也强化了NAAIMES评估网络。
关注后续共同评估/风险管理框架以及任何出现的标准化事件分类或评估报告格式;将宣言中的评估和事件报告承诺映射到您的人工智能治理和红队测试计划中,以便在您的辖区或客户背书时做好对齐准备。
Joint declaration on Paris call for AI safety and security (full text via CNW)Paris Call on AI Safety and Security Explained (CASRAI)
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →