Apa yang terjadi
Institute Anthropic menerbitkan analisis terperinci pada 4 Juni menggunakan data internal yang sebelumnya tidak dilaporkan bersama dengan benchmark publik untuk menunjukkan bahwa AI sudah secara material mempercepat pengembangan AI di Anthropic: insinyur mengirimkan 8x lebih banyak kode per kuartal dibandingkan tahun 2021–2025, Claude dapat menyelesaikan tugas perangkat lunak 12 jam secara otonom, dan horizon penyelesaian tugas mengganda setiap empat bulan. Posting tersebut secara formal mendeskripsikan jalur menuju recursive self-improvement, menyerukan koordinasi internasional untuk mengelola transisi, dan secara eksplisit menandai bahwa 'cara kami mengamankan mereka, memantau mereka, dan membentuk perilaku mereka semua menjadi jauh lebih penting' jika sistem dapat membangun penerus mereka sendiri.
Mengapa penting
Ini adalah publikasi Anthropic pertama yang mengukur kecepatan pengembangan AI yang didorong AI menggunakan telemetri internal, dan ia membingkai recursive self-improvement sebagai masalah tata kelola dan keamanan jangka pendek — bukan hipotesis yang jauh. Implikasinya untuk program keamanan AI adalah konkret: evaluasi keselamatan AI saat ini, ritme red-teaming, dan arsitektur pemantauan mungkin perlu dirancang ulang untuk sistem yang meningkat dengan kecepatan mesin, dan Anthropic secara eksplisit menyerukan mekanisme koordinasi internasional yang sebanding dengan mekanisme untuk teknologi berisiko tinggi lainnya.
Tindakan yang diperlukan
Masukkan trajectory recursive self-improvement dalam register risiko tata kelola AI Anda; tinjau apakah program evaluasi keamanan AI saat ini dapat mengikuti kecepatan penggandaan kemampuan setiap empat bulan, dan lacak proses koordinasi yang diusulkan Anthropic Institute untuk dimasukkan dalam ringkasan kebijakan klien.