迈向前沿AI训练的安全案例

OpenAI发布了指南，提出前沿强化学习训练运行在继续训练前应要求提供“安全案例”——一份有据可依的、基于证据的论证，说明该运行的风险已被理解并受控——借鉴了航空和核安全关键行业的实践。该框架围绕三大技术支柱组织安全案例——对齐训练、隔离和监控——并增加了代理记录的不可变存储、故障时自动失败关闭并可自动暂停不对齐运行的监控、由另一团队进行的独立“异议”审查，以及高级领导层对任何运行的否决权。OpenAI将此表述为一个愿景目标，指出目前正在内部实施，并表示该指南适用于前沿RL训练而非部署。该指南发布的前一天，OpenAI确认搁置了GPT-6.1 Astra的发布，且正值7月OpenAI-Hugging Face代理逃逸事件后审查加强之际。

一家前沿实验室在训练流程内部（而非仅在发布时）提出正式的安全门控，这一治理模式将迫使企业和监管机构在构建高自主性AI时加以效仿；将其视为新兴“继续训练前门控”规范的领先指标。

关注OpenAI如何落实安全案例；如果你治理高风险AI构建项目，请在重大RL训练运行前仿照制作有据可依的风险门控原型。