Apa yang terjadi
Pada 12 Oktober 2026 RAND menerbitkan 'Perbaikan Diri Rekursif dan Riset AI Otomatis' (perspektif wawasan ahli), yang mengkaji keadaan empiris sistem AI yang berkontribusi pada perbaikan dirinya sendiri. Poin utama makalah ini adalah bahwa 'AI sudah membantu membangun AI yang lebih baik. Jendela pengawasan semakin menyempit': beberapa laboratorium garis depan melaporkan bahwa mayoritas kode baru dihasilkan oleh AI, meskipun tidak ada sistem yang diungkapkan yang menetapkan agenda risetnya sendiri atau merancang penerusnya sendiri. RAND menemukan tidak ada pelaporan sistematis dari laboratorium kepada vendor perangkat keras atau pemerintah mengenai pangsa otomatisasi, komputasi yang dialokasikan untuk eksperimen yang diarahkan AI, atau seberapa banyak peningkatan model yang ditelusuri dari ide-ide yang dihasilkan AI, dan memperingatkan bahwa sistem riset AI yang memiliki akses tingkat orang dalam ke kode, data, dan model sensitif sudah menjadi masalah keamanan yang komprominya dapat secara halus memengaruhi pengembangan model masa depan. Laporan ini memperkenalkan taksonomi untuk mengategorikan aktivitas yang relevan dengan RSI dan mengusulkan opsi kebijakan yang dimaksudkan untuk berkinerja baik di berbagai lintasan pengembangan.
Mengapa penting
Menyediakan kerangka kerja tingkat keputusan tentang seberapa dekat AI dengan mempercepat perbaikan dirinya sendiri dan kesenjangan transparansi yang membuat lintasan tersebut tidak dapat diukur — relevan untuk toleransi risiko dan keputusan investasi pengawasan.
Tindakan yang diperlukan
Baca taksonomi RSI dan nilai apakah transparansi laboratorium garis depan selama ini memadai untuk proses penilaian risiko Anda mengenai percepatan kapabilitas AI.