定義
AIシステムが次のAIシステムをさらに高性能にする研究とエンジニアリングを意味のあるレベルで加速させることが可能になり、フィードバックループを生じるシナリオ。フロンティアラボは現在、自社システムがこのしきい値にどの程度近いかについて内部指標を公開している。
なぜ重要か
このループが加速すれば、人間が新しいAI世代ごとにレビュー、テスト、および規制する時間があるという通常の仮定が成り立たなくなる可能性があり、それがラボのリーダーシップによってトップレベルの安全保障上の懸念として扱われている理由である。