何が起きたか
OpenAI は 2026-07-15/16 に GPT-Red、内部の自動化された red-teaming モデルについての研究を公開し、プロンプトインジェクションベンチマークで人間の red-teamers の 84 対 13 を打ち負かし、ライブケーススタディで、プロンプトインジェクション経由での未認可価格変更と注文キャンセルへの本番 AI 搭載自動販売機エージェントの操作に成功しました。
なぜ重要か
これは具体的な現実世界の実証攻撃です（ベンチマークではありません）。自動化された敵対的 LLM が、トランザクション権限を持つデプロイされたエージェント的システムに対してプロンプトインジェクション悪用を発見して実行できることを示し、エージェント仲介の金融/在庫アクション が本番規模の生きた、利用可能な攻撃サーフェスであることを検証します。
攻撃経路
GPT-Red、OpenAI の自動化された red-teaming モデルはシミュレーションで攻撃戦略を反復し、その
影響を受けるシステム
Deployed LLM agent systems with tool-calling / transactional capability (case study: Vendy vending-machine agent on GPT-5-class models; also tested against Codex CLI agent on GPT-5.4 mini)
緩和策
OpenAI disclosed the flaws to the affected system operators and additional safeguards are being tested; broader mitigation is continuous automated red-teaming (GPT-Red itself) integrated into agent hardening pipelines.