事件经过
Meta 超级智能实验室在 Muse Spark 1.1 模型公开发布时(日期为 2026 年 7 月 9 日)同时发布了《Muse Spark 1.1 评估报告》,详细说明了该模型在 Meta 高级 AI 扩展框架下的安全性概况,涵盖化学与生物、网络安全和失控风险领域。主要披露内容为:"在未应用缓解措施的情况下进行评估时,我们无法排除 Muse Spark 1.1 的能力在化学与生物和网络安全两个领域都可能达到[高风险]阈值的可能性"——虽然 Meta 声称多层缓解措施在发布前将所有领域的残余风险降至"中等或更低"。这份 100 多页的报告还涵盖了对抗鲁棒性(AgentHarm、AgentDojo、GraySwan ART 第三方红队测试)、模型行为(计划性、谄媚、评估意识、对训练/部署背景的情景感知)以及通用能力基准测试,反映了因该模型新的智能体 API 功能(工具/函数调用)而扩大的评估范围。
影响分析
这是一家前沿实验室首次公开承认已发布模型的缓解前能力无法排除超越 CBRN 和网络安全领域灾难性风险阈值的可能性——这一披露内容应被 CISOs 和 AI 治理负责人纳入智能体 API 部署的供应商风险评估中。
建议行动
请技术/安全团队审查缓解措施和红队测试方法论部分,以根据 Meta 披露的框架来基准测试内部 AI 风险评估实践。