Apa yang terjadi
Pada 18 November 2026, Gubernur Gavin Newsom merilis rekomendasi (yang dikembangkan oleh kelompok ahli yang dibentuk berdasarkan perintah eksekutifnya dan Badan Operasi Pemerintah) untuk memperkuat kerangka keselamatan AI California. Rekomendasi tersebut mengusulkan: standar keselamatan dasar yang ditetapkan negara bagian untuk semua pengembang AI dengan pengujian/verifikasi keselamatan independen di seluruh pelatihan, pengembangan, dan penerapan model; perluasan pelaporan insiden keselamatan dan protokol penahanan risiko/penghentian terverifikasi yang memberikan wewenang kepada negara bagian untuk memerintahkan penghentian darurat segera; dan wewenang untuk membatasi pengembangan dan penggunaan perbaikan diri rekursif (RSI). Gubernur juga memerintahkan lembaga negara bagian untuk mempercepat SB 813 (organisasi verifikasi independen) dan AB 1405 (registri negara bagian untuk auditor AI).
Mengapa penting
Ini adalah tindakan negara bagian yang berwenang yang mendorong menuju rezim keselamatan AI yang mengikat secara hukum dan ditegakkan pemerintah — pengawasan wajib, kekuasaan penghentian oleh negara bagian, dan batasan RSI — melampaui pendekatan federal yang sukarela. Ini akan membentuk kepatuhan bagi organisasi mana pun yang melatih atau menerapkan model mutakhir di atau melayani California, dan menetapkan templat yang dapat diikuti negara bagian lain. Evaluasi independen, pelaporan insiden, dan protokol penghentian menciptakan kewajiban rekayasa dan tata kelola yang konkret.
Tindakan yang diperlukan
Pengembang model mutakhir yang beroperasi di California harus bersiap untuk pengujian keselamatan independen yang wajib, saluran pelaporan insiden, protokol penahanan risiko/penghentian yang terdokumentasi, dan pembatasan RSI; CDO/GC harus memetakan tata kelola siklus hidup model ke persyaratan ini sekarang, karena undang-undang yang memungkinkan sedang dipercepat.