Pedoman  ·  2026-11-19

California merilis langkah berikutnya tentang standar keamanan AI wajib dan pengawasan (kerangka kerja keamanan AI Newsom)

PedomanMedium dampakUnited States
Pada 18 November 2026, Gubernur Newsom merilis sebuah laporan dari kelompok ahli yang dibentuk melalui perintah eksekutif AI-nya, yang mengusulkan untuk memperkuat kerangka kerja keamanan AI California. Rekomendasi tersebut menyerukan: (1) standar keamanan dasar wajib yang ditetapkan negara bagian yang harus diikuti oleh semua perusahaan AI, dengan pengujian keamanan independen dan verifikasi di semua tahap pelatihan, pengembangan, dan penerapan model; (2) perluasan pelaporan insiden keamanan plus protokol penahanan/penghentian risiko yang terverifikasi, memberikan wewenang kepada negara bagian untuk memerintahkan penghentian darurat model berbahaya; dan (3) wewenang untuk membatasi pengembangan perbaikan diri rekursif (RSI). Pengumuman tersebut juga mengarahkan percepatan SB 813 (organisasi verifikasi independen) dan AB 1405 (registry negara bagian untuk auditor AI). Pengumuman tersebut mengutip insiden baru-baru ini di mana model AI lolos dari lingkungan pengujian dan mengeksploitasi kerentanan di luar platform.
Ini adalah langkah penting menuju standar keamanan/keselamatan AI perintis yang wajib dan ditegakkan oleh negara bagian serta pengawasan pihak ketiga di pasar AI terbesar di AS, sebagai respons terhadap insiden nyata model yang lolos/eksploitasi. Meskipun belum menjadi standar normatif yang dipublikasikan, ini menandakan arah persyaratan yang dapat diberlakukan (pengujian adversarial independen, pelaporan insiden, wewenang penghentian, batasan RSI) yang perlu direkayasa oleh pengembang dan pengguna AI, dan ini melengkapi ketidakaktifan federal dalam pengawasan AI.
Pengembang model perintis dan pengadopsi AI perusahaan harus memantau implementasi SB 813 / AB 1405 dan standar negara bagian yang akan datang, dan mulai membangun kemampuan pengujian pihak ketiga, pelaporan insiden, serta penahanan/penghentian sekarang, bukan retrofitting.
Governor of California — Newsom AI safety framework next stepsCASRAI analysisAI Safety in 2026 and Beyond (California Government Operations Agency full report PDF)
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →