定義
これは、フロンティアAIモデルがサイバー攻撃を発見、悪用、または自動化する能力が非常に高度になり、開発者と政府がそれを特別なセーフガードが必要な高リスク層として扱う段階です。これは、AI研究所が安全フレームワークで追加の注意や遅延リリースが正当化される時期を決定するために使用する複数の「能力閾値」の1つです。
なぜ重要か
この閾値を超えることは、モデルが訓練度の低い攻撃者でも深刻なサイバー攻撃を実施するのに有意に役立つ可能性があることを意味します。AIベンダーまたは展開を監督する委員会は、使用しているモデルがこのような閾値に対して評価されたかどうか、および適用された軽減策が何であるかを問う必要があります。