事件经过
生命未来研究所的半年度AI安全指数对九家领先的AI公司(Anthropic、OpenAI、Google DeepMind、Meta、Z.ai、阿里巴巴云、xAI、DeepSeek、Mistral)在风险评估、当前危害、安全框架、存在风险、治理与问责和信息共享等六个领域进行评分,采用独立专家审查小组和美国GPA风格的评分系统(A+至F)。Anthropic再次获得最高的总体成绩(C+,2.66),而三家公司——xAI、DeepSeek和Mistral(欧洲顶级AI公司)——获得明确的不及格,报告指出"不充分的安全是一个全球问题,而不是区域问题"。该方法论基于公司调查、已发布的安全框架和第三方基准(Stanford HELM、TrustLLM、CAIS);报告还指出,包括Anthropic、OpenAI、Google DeepMind和Meta在内的几个领先实验室已经"削弱或废除"了之前的暂停/红线承诺,审查者称之为"移动的门槛",破坏了全行业的安全框架。存在风险被认为是全行业最薄弱的领域,没有公司得分高于C-。
影响分析
董事会和首席信息安全官在评估AI供应商风险、采购或合作决策时,现在拥有独立的跨公司比较安全记分卡,具有特定的逐字查询结果:即使在行业领导者中,安全承诺也在削弱,没有公司充分解决存在/灾难性风险领域。
建议行动
将当前和潜在的AI供应商关系与指数的逐家公司成绩进行对标,并特别标记在存在风险和治理领域中任何对D级或以下实验室的依赖。