Apa yang terjadi
Administrasi Trump sedang menjelajahi pengujian keselamatan pra-rilis wajib untuk model AI canggih, mirip dengan proses persetujuan obat FDA, setelah Wakil Presiden JD Vance dilaporkan 'terganggu' oleh kemampuan model Mythos milik Anthropic untuk secara mandiri menemukan kerentanan perangkat lunak. Direktur Dewan Ekonomi Nasional Kevin Hassett menyatakan tujuannya adalah untuk memastikan sistem AI 'dirilis ke lapangan setelah terbukti aman,' dengan kekhawatiran khusus tentang model yang menargetkan infrastruktur kritis yang dikelola oleh pemerintah lokal yang kekurangan alat pengganggu.
Mengapa penting
Ini mewakili pembalikan kebijakan yang signifikan bagi administrasi yang sebelumnya menghindari menghubungkan 'keselamatan' dan 'AI' dalam kalimat yang sama, menurut kelompok advokasi Encode. Pergeseran dari mempromosikan inovasi AI tanpa batasan ke mempertimbangkan persyaratan pra-rilis yang mengikat mempengaruhi garis waktu penerapan model, biaya kepatuhan, dan lanskap kompetitif untuk lab frontier. Fokus pada kerentanan infrastruktur pemerintah lokal relevan secara operasional karena mengakui pengembangan exploit yang didorong AI dapat mengompresi waktu-ke-eksploitasi menuju nol untuk target yang kurang berressurses.
Tindakan yang diperlukan
Pantau pengumuman Gedung Putih untuk rincian kerangka kerja pengujian yang diusulkan, termasuk kemampuan model mana yang memicu tinjauan, siapa yang melakukan evaluasi, garis waktu, dan apakah rezim hanya berlaku untuk model yang dikembangkan AS atau juga mencakup sistem yang digunakan asing. Nilai apakah kasus penggunaan AI organisasi Anda melibatkan infrastruktur kritis atau penelitian kerentanan mandiri, dan siapkan bukti kontrol keselamatan, pemantauan, dan tata kelola manusia-dalam-loop jika penyelidikan regulasi mengikuti.