ソリューション  ·  2026-11-22

OpenAI、GPT-6.2における敵対的蒸留に対する多層防御と保護された推論抽出の強化を詳述

ソリューションMedium 影響度Global
2026年11月20日、OpenAIは敵対的蒸留(フロンティアモデルの能力、および保護された推論/チェーン・オブ・ソートを不正に抽出し、より弱いガードレールを持つ第2のモデルを訓練すること)を検出・妨害する方法を公開しました。防御策は、敵対的訓練、分類器チェック、APIレベルの制御、および協調的な抽出試みのキャンペーンレベル調査を組み合わせています。内部の適応型レッドチーム評価では、保護された推論を回復する平均攻撃成功率は、GPT-6 Astraに対する54.0%からGPT-6.2 Astra/Solに対する0.2%に低下しました。
敵対的蒸留は具体的な能力抽出攻撃ベクトルであり、教師モデルの推論トレースから訓練されたサイバー/バイオロジースキルが、元のガードレールポリシーを持たない学生モデルに転移する可能性があります。OpenAIはこれをモデル+API層で強化しており、業界全体のモデルセキュリティと知的財産保護のベンチマークを設定しています。
フロンティアモデルの出力をファインチューニングしているモデルプロバイダーと企業は、OpenAIの多層的詐欺/抽出モデルに従うべきです。モデルのガードレールをコントロールとして依存しているセキュリティチームは、期待を更新し、自社の展開で保護された推論の漏洩をテストする必要があります。
OpenAI — Combatting adversarial distillation
ライブフィードで見る AIセキュリティとガバナンスの関連情報をさらに見る — 毎朝更新。
フィードを開く →