Frontier AI Risk Governance

フロンティアAIモデルが再帰的自己改善のような能力に近づくにつれ、国際的なガバナンス努力は、制御されない急速な進展を防ぐために「レッドライン」と壊滅的リスク閾値を定義しています。これらの用語は、技術的リスク（監視を超えて自らを改善するモデル）とポリシー対応（そのリスクが具体化する前の合意された制限）の両方を捉えています。