Apa yang terjadi
Pada 9 November 2026, Prancis menerbitkan 'Paris Call for AI Safety and Security,' yang ditandatangani oleh delapan pemerintah (Bahrain, Kanada, Siprus, Finlandia, Prancis, Kenya, Belanda, Norwegia) dan sekitar selusin pengembang dan organisasi termasuk OpenAI, Anthropic, Microsoft, Mistral AI, Cohere, Hugging Face, dan Sakana AI. Ini menetapkan tiga pilar: (1) kerangka kerja bersama untuk mengevaluasi/mengelola risiko model frontir dengan hasil yang tidak sensitif dipublikasikan dalam format standar ke repositori bersama; (2) tanggung jawab dan akuntabilitas, dengan pengembang frontir berkomitmen untuk mengungkapkan kemampuan/batas/risiko, mendukung evaluasi independen, dan menerapkan mekanisme fail-safe untuk mematikan operasi model di bawah kendali mereka (termasuk selama pelatihan dan penggunaan internal); dan (3) berbagi informasi, sistem peringatan cepat, dan pelaporan insiden yang lebih kuat untuk insiden siber/kontrol AI yang serius, plus saluran whistleblower yang aman. Deklarasi ini bersifat sukarela, tidak menetapkan tenggat waktu atau sanksi, dan mengutip proses Hiroshima, Seoul Frontier Safety Commitments, G7 Evian, dan pertemuan Dewan Keamanan PBB pada 23 September.
Mengapa penting
Ini menarik komitmen operasional konkret (mekanisme penghentian/pembatasan, red-teaming, pelaporan evaluasi standar, peringatan insiden) dari laboratorium frontir terkemuka dan delapan pemerintah, dengan membangun jalur kerja Hiroshima/Seoul/G7/UNSC. Ini adalah tolok ukur untuk apa yang diminta oleh tata kelola AI frontir sukarela dari laboratorium, dan sinyal terkuat sejauh ini bahwa standar keselamatan internasional bergerak menuju evaluasi, akuntabilitas, dan pelaporan insiden.
Tindakan yang diperlukan
Tidak ada kepatuhan yang mengikat saat ini; pantau apakah standar evaluasi/pelaporan insiden akan diubah menjadi aturan nasional yang dapat ditegakkan (misalnya regulator Australia, EU AI Act). Laboratorium harus menilai kesiapan untuk memublikasikan hasil evaluasi yang tidak sensitif dan menerapkan mekanisme pembatasan/penghentian model.