Apa yang terjadi
Pada 9 November 2026, di Paris Peace Forum, enam pemerintah, sepuluh perusahaan AI terdepan, dan beberapa organisasi masyarakat sipil menandatangani deklarasi bersama yang tidak mengikat berjudul 'Paris Call for AI Safety and Security' (teks diterbitkan oleh Kantor Perdana Menteri Kanada pada hari yang sama). Deklarasi ini menetapkan tiga bidang konsensus dan tiga komitmen strategis: (1) kerangka evaluasi dan manajemen risiko bersama yang dibangun di atas kerangka yang sudah ada, dengan standar teknis/alat bersama yang berfokus pada penyalahgunaan (termasuk risiko siber dan CBRN) serta pada otonomi/ketidakselarasan/kehilangan kendali; (2) akuntabilitas berbasis peran, dengan pengembang terdepan berkomitmen untuk mengungkapkan kemampuan/keterbatasan/risiko yang diketahui, mendukung evaluasi pihak ketiga yang independen, dan menerapkan mekanisme penghentian yang aman (fail-safe), serta pembuat kebijakan berkomitmen untuk memperjelas tanggung jawab atas kerugian berskala besar; dan (3) berbagi informasi, pelaporan, dan peringatan dini — menyelaraskan klasifikasi insiden dan berbagi informasi tepat waktu mengenai insiden siber serius dan insiden kontrol AI, serta saluran whistleblower yang rahasia. Deklarasi ini tetap terbuka untuk dukungan tambahan dan tidak memiliki tenggat waktu (para kritikus, termasuk CeSIA yang ikut menandatangani, mencatat tidak adanya ambang risiko bersama, tidak adanya jaminan akses penguji, dan tidak adanya linimasa).
Mengapa penting
Ini adalah konvergensi multilateral terbaru mengenai standar evaluasi keamanan AI dan pelaporan insiden, yang secara eksplisit menyebut penyalahgunaan siber dan kehilangan kendali sebagai bagian dari risiko yang harus dievaluasi. Ini menandakan arah perjalanan menuju standar teknis bersama, format pelaporan evaluasi yang terstandarisasi, dan repositori bersama untuk protokol red-teaming, benchmark, dan hasil uji stres — substansi inti dari praktik keamanan AI. Meskipun tidak mengikat, deklarasi ini mengikat laboratorium AI terdepan dan enam negara pada kerangka bersama yang mungkin diminta untuk diikuti oleh para praktisi, dan ini memperkuat jaringan evaluasi NAAIMES.
Tindakan yang diperlukan
Pantau kerangka evaluasi/manajemen risiko bersama lanjutan dan setiap format klasifikasi insiden atau pelaporan evaluasi terstandarisasi yang muncul; petakan komitmen evaluasi dan pelaporan insiden dari deklarasi tersebut ke dalam program tata kelola AI dan red-teaming Anda agar Anda siap menyelaraskan diri jika didukung oleh yurisdiksi atau pelanggan Anda.