Dapatkah Saingan AGI Menahan Diri?

Para peneliti RAND membangun model teori permainan dua tahap untuk mengidentifikasi kapan negara-negara saingan dapat mempertahankan pengendalian diri bersama dalam pengembangan AGI. Temuan utamanya adalah 'tanpa pengawasan AI domestik, negara-negara saingan tidak dapat berkomitmen secara kredibel untuk menahan diri — bahkan ketika kedua belah pihak menginginkannya': setiap pengaturan pengendalian diri bergantung pada verifikasi, dan verifikasi bergantung pada negara-negara yang telah membangun institusi domestik (registri komputasi, lisensi, audit fasilitas, pelaporan insiden) yang membuat ekosistem AI mereka sendiri dapat dipahami. Laporan ini lebih lanjut menemukan bahwa verifikasi kehilangan kekuatan ketika kedatangan AGI tampak semakin dekat, bahwa ketakutan akan bencana bersama mencegah beberapa pembelotan namun tidak murni posisional, dan bahwa metode verifikasi komputasi rahasia dan perangkat keras tepercaya dapat menurunkan biaya keamanan dalam menunjukkan kepatuhan.

Membingkai ulang tata kelola AI domestik dari kepatuhan regulasi menjadi arsitektur keamanan yang dapat memungkinkan pengaturan pengendalian diri AS-Tiongkok — relevan langsung dengan posisi keamanan nasional dan geopolitik menjelang negosiasi yang relevan dengan AGI.

Jika Anda memberi nasihat tentang kebijakan keamanan nasional AI, perlakukan registri komputasi dan kapasitas audit sebagai infrastruktur verifikasi daripada beban kepatuhan, dan pantau metode verifikasi komputasi rahasia.