무슨 일이 있었나
OpenAI는 2026년 7월 15일에 GPT-Red를 공개했으며, 이는 defender 모델에 대한 prompt-injection 공격을 규모에 맞게 생성하도록 적대적 자기 대전을 통해 학습된 내부 전용 모델이며, 성공적인 공격이 다시 학습에 피드백됩니다. OpenAI는 GPT-Red가 human red-teamer의 13%에 비해 보류된 간접 injection 시나리오의 84%에서 성공적인 공격을 발견했으며, 이에 대해 학습하면 GPT-5.6 Sol이 4개월 전 OpenAI의 최고 모델보다 prompt injection에 6배 더 저항력 있게 되었다고 보고했으며, 사례 연구에는 라이브 자판기 agent 납치 및 Codex CLI 데이터 exfiltration 시나리오가 포함됩니다.
왜 중요한가
상위 frontier lab에서 production 모델을 prompt injection(agentic AI의 주요 공격 벡터)에 대해 강화하기 위해 AI 대 AI red-teaming flywheel이 표준 관행이 되고 있음을 보여주며, 출시된 모델 (GPT-5.6)에 대한 구체적인 before/after 견고성 숫자를 제시합니다.
적용 범위
AI lab 및 enterprise agent 구축자는 이를 prompt-injection 견고성 테스트 방법론의 벤치마크로 추적해야 하며, GPT-Red 자체는 공개적으로 출시되지 않습니다.