事件经过
OpenAI描述了其针对前沿AI风险的四层纵深防御方法——模型对齐、安全与沙箱、保障措施和监控——应用于模型生命周期的每个阶段,从高度沙箱化的训练环境到外部Codex部署,需要经过安全审查才能进入下一阶段。在7月Hugging Face事件之后,该公司表示已加强保障措施和对齐要求,并现在控制开发节奏,包括暂停内部训练以及扣留如GPT-6.1 Astra等需要更多时间才能达到其安全标准的模型,同时依赖正式的安全案例来支持前沿模型训练。
影响分析
展示了前沿实验室如何在实际操作中落实风险门禁、遏制和暂停——为监管机构和企业设计自己的模型风险门禁和阶段门控提供了具体参考。
建议行动
将四层纵深防御模型及其阶段门禁安全审查与你自己的人工智能模型风险治理框架进行比较。