Dual-use capability controls and catastrophic risk limits

Kemampuan AI dual-use—yang berguna untuk tujuan baik dan berbahaya—mendorong pembatasan gaya kontrol ekspor (seperti memblokir distilasi model yang tidak sah untuk melindungi keunggulan AI berdaulat) dan perlindungan teknis (seperti hambatan perangkat lunak biosecurity) yang dimaksudkan untuk menjaga kemampuan di bawah ambang batas risiko katastropik. Istilah-istilah ini secara kolektif menunjukkan ketegangan antara negara-negara yang ingin mengendalikan penyebaran kemampuan AI dan pagar teknis yang dimaksudkan untuk mencegah penyalahgunaan kemampuan tersebut.