Catastrophic risk threshold (pre-mitigation capability)

一个具体的危险级别——比如有意义地帮助某人制造武器的能力——AI实验室在发布模型前会针对这些危险进行测试，并试图通过安全培训（"缓解"）来压制。一家前沿实验室最近首次公开承认，它无法完全排除其已发布的某个模型在应用缓解措施之前跨越这一阈值的可能性。

这是AI安全透明度的分水岭时刻：它表明即使是领先的实验室也无法总是在模型向公众发布前证明其安全措施有效，这是关于强制性发布前评估辩论的核心问题。