OpenAI GPT-Red — 用于提示注入的自动化对抗自我对弈红队测试工具

OpenAI在2026年7月15日披露了GPT-Red，这是一个通过对抗性自我对弈训练的内部专用模型，用于大规模生成针对防御者模型的提示注入攻击，并将成功的攻击反馈到训练中。OpenAI报告GPT-Red在84%的未见过的间接注入场景中找到了成功的攻击，相比之下人类红队测试人员的成功率为13%，针对该模型的训练使GPT-5.6 Sol比OpenAI四个月前最好的模型对提示注入的抵抗力提高了6倍；案例研究包括劫持一个实时自动售货机智能体和一个Codex CLI数据泄露场景。

展示了可扩展的AI对抗AI红队测试飞轮正在成为顶级前沿实验室的标准实践，特别是为了防硬化生产模型以对抗提示注入——这是最大的智能体AI攻击向量——同时在一个已发布的模型（GPT-5.6）上有具体的前后对比稳健性数据。

AI实验室和企业智能体构建者应该将此作为提示注入稳健性测试方法论的基准来追踪；GPT-Red本身不向公众发布。