Trust but verify: Implementing frontier AI policy in California and beyond

Diterbitkan 10 Nov 2026. Ini adalah laporan penelitian Carnegie Endowment yang substansial dan ditulis oleh banyak penulis (dengan penulis bersama dari GovAI, Ada Lovelace Institute, Oxford, UC Berkeley, dan Transluce) yang memandu implementasi California Transparency in Frontier Artificial Intelligence Act (Senate Bill 53), satu tahun setelah disahkan. Laporan ini mengembangkan arsitektur tata kelola 'trust but verify' — pertama kali diuraikan dalam California Report on Frontier AI Policy — di mana laboratorium perintis merancang dan mengungkapkan praktik manajemen risiko mereka sendiri sementara badan pemerintah diberdayakan untuk memverifikasi klaim tersebut, dan memberikan saran tentang pilihan implementasi yang akan membentuknya: perusahaan mana yang tercakup, seberapa rinci kerangka kerja AI perintis seharusnya, dan bagaimana melakukan triase laporan insiden AI. Laporan ini membingkai 'dilema bukti' yang mendasarinya — 'AI berkembang begitu cepat sehingga merespons terlalu dini berisiko mengunci kebijakan yang tidak efektif, sementara menunda tindakan dapat membuat masyarakat rentan terhadap risiko serius' — dan mencatat bahwa risiko yang sebelumnya hipotetis (model menemukan dan mengeksploitasi kerentanan perangkat lunak yang tidak diketahui, mendapatkan akses tidak sah ke basis data eksternal) kini menjadi realitas yang terdokumentasi. Laporan ini juga mencatat bahwa SB 53 'telah menginspirasi kerangka kerja serupa di New York dan Illinois.'

SB 53 California adalah penggerak pertama de facto dalam undang-undang AI perintis di AS; keputusan implementasi yang diujinya akan menjadi templat bagi New York, Illinois, dan berpotensi kebijakan federal, sehingga setiap fungsi AI yang menghadap perusahaan atau pemerintah perlu mengetahui pilihan mana yang akan diterapkan padanya.

Beri pengarahan kepada pimpinan urusan pemerintahan dan kebijakan Anda tentang keputusan implementasi spesifik SB 53 (entitas yang tercakup, granularitas kerangka kerja, triase pelaporan insiden) dan petakan penerapan model atau produk mana yang akan berada dalam kewajiban verifikasi California.