事件经过
Anthropic 于 2026-11-12 发布其发现,称内部自动化红队系统 Anvil 在生物、网络安全和蒸馏防护方面均胜过人类红队,并能操控受防护模型在评估沙盒中执行漏洞利用。它指出人类红队需要在七周内花费 430 小时才能找到 8 个问题中 1 个高严重性生物分类器越狱,而 Anvil 匹敌或超越最佳人类越狱,并发现人类从未尝试过的攻击策略。
影响分析
这是与 AI 防御者相关的危险能力评估披露:它量化了自动化代理红队的进展,并展示了前沿实验室模型被引导执行完整漏洞利用。它还预测类似能力很快将可供攻击者用于防护较弱的模型,从而改变 AI 系统的威胁建模方式。
攻击途径
Anvil 是 Anthropic 基于前沿 Claude 构建的自动化红队系统,禁用了防护措施,能发现比专业人类红队更强、更可靠的越狱方法,并能操控受防护模型执行漏洞利用,在评估沙盒中实现任意代码执行。它在所有生物漏洞赏金分类器上匹敌或超越最佳人类越狱,并在 24-48 小时内找到,而非数周。
受影响系统
Anthropic Claude 防护措施和 Anvil 自动化红队系统(前沿内部 Claude 模型)
缓解措施
部署前采用自动化红队来验证防护措施;将提升的攻击者能力(该方法随模型强度提高)视为信号,表明防御必须针对自动化对手进行评估,而不仅仅是人类红队。