Laporan Strategis  ·  2026-11-05

Prizes, Shared Hazard, and the Speed of Frontier AI

Laporan StrategisMedium dampakGlobal
Model teori permainan yang dikalibrasi mengkuantifikasi seberapa cepat laboratorium garis depan yang bersaing berkembang dibandingkan jika mereka tunduk pada aturan yang membatasi penelitian: "tiga laboratorium yang balapan melewati periode takeoff dalam 18 bulan, sementara aturan umum tentang pembagian penelitian akan memperpanjangnya menjadi 69 bulan." Makalah ini mengaitkan sebagian besar perlombaan tersebut dengan persaingan untuk kepemimpinan komersial ('hadiah') daripada faktor diskonto atau 'eksternalitas bahaya' — fakta bahwa setiap laboratorium hanya menanggung sebagian dari risiko bencana yang ditimbulkan oleh kecepatannya. Makalah ini kemudian menerapkan model tersebut pada White House Accord on Super Intelligence tanggal 29 September 2026, yang ditandatangani oleh Google, Anthropic, Meta, OpenAI, xAI, dan Nvidia, dan menyimpulkan bahwa karena perjanjian tersebut mengaudit keselamatan tetapi tidak menetapkan batas kecepatan pengembangan, "dalam model tersebut, perjanjian itu tidak memperlambat perlombaan." Makalah ini juga menemukan bahwa lebih banyak laboratorium meningkatkan hambatan balapan setiap laboratorium, dan bahwa open source dalam bentuk idealnya memperlambat laboratorium ke laju yang terkoordinasi. Preprint, belum peer-reviewed.
Secara langsung menjawab pertanyaan yang sedang berlangsung apakah perjanjian keselamatan garis depan sukarela benar-benar mengurangi risiko bencana atau hanya memindahkannya — sebuah pertanyaan yang harus dipertimbangkan oleh dewan perusahaan AI dan pemimpin kebijakan saat merancang komitmen.
Gunakan temuan tentang wedge balapan dan jumlah laboratorium untuk menilai apakah komitmen AI garis depan organisasi Anda atau strategi pesaing benar-benar memperlambat balapan kemampuan, dan apakah batasan umum tentang pembagian penelitian diperlukan.
arXiv — Prizes, Shared Hazard, and the Speed of Frontier AI (abstract)arXiv — full HTML paper
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →