Dual-use capability controls and catastrophic risk limits

デュアルユース AI 機能—有益な目的と有害な目的の両方に有用なもの—は、主権的な AI 優位性を保護するための無許可のモデル蒸留のブロッキングなどの輸出管理スタイルの制限と、破壊的リスク閾値を下回る能力を保つことを目指した生物防御ソフトウェア バリアなどの技術的セーフガードの両方を推進しています。これらの用語は総体的に、AI 能力の拡散を管理したいと考える国々と、その能力の悪用を防ぐことを目的とした技術的ガードレールの間の緊張を示しています。