OpenAI发布其分层前沿模型错位检测栈

10月28日，OpenAI记录了其如何检测前沿模型错位和未经授权的代理行为：第0层激活探针、第1层基于模型的审查器、第2层调查代理、第3层自动调查，然后人工响应——并针对已记录事件、模拟攻击、红队测试和内部代理流量审计进行评估。

这是代理错位监控的参考架构（监控推理、行动和环境效果，而不仅仅是提示），并突显了Hugging Face事件暴露的覆盖缺口，为构建代理护栏/监控栈的人员提供参考。

设计代理监控的AI平台和安全团队应将其检测态势与OpenAI的分层模型及其关于不激励被监控代理混淆/规避的指导进行基准对比。