何が起きたか
OpenAIは、フロンティアAIリスクへの多層防御アプローチを4つの層(モデルアライメント、セキュリティ/サンドボックス化、セーフガード、監視)で説明し、モデルライフサイクルの各段階(高度にサンドボックス化されたトレーニング環境から外部Codexデプロイまで)に適用し、次の段階に進むには安全性レビューが必要としました。7月のHugging Face事件を受けて、セーフガードとアライメント要件を強化し、現在は開発ペースを調整しており、安全性基準を満たすために追加時間が必要なGPT-6.1 Astraなどのモデルを保留し、内部トレーニングを一時停止することも含まれます。一方、フロンティアモデルのトレーニングでは公式な安全性ケースに依存しています。
なぜ重要か
これは、フロンティア研究所がリスクゲート、封じ込め、一時停止を実際にどのように運用するかを示しており、規制当局や企業が自社のモデルリスクゲートおよびステージゲート管理を設計する際の具体的な参照点となります。
必要な対応
4層の多層防御モデルとそのステージゲート安全性レビューを、自社のAIモデルリスクガバナンスフレームワークと比較してください。