Frontier AI Risk Governance

随着前沿AI模型接近递归自我改进等能力，国际治理努力定义了"红线"和灾难性风险阈值，以防止不受控制的升级。这些术语共同捕捉了技术风险（模型在监督之外自我改进）和政策应对（在该风险实现之前的既定限制）。