Apa yang terjadi
Pada 10 November 2026, Perdana Menteri Albanese mengumumkan bahwa Pemerintah akan memberlakukan perlindungan keamanan dan keselamatan wajib untuk AI perintis (frontier AI) dan menciptakan regulator keselamatan AI khusus. Enam kewajiban yang diwajibkan bagi perusahaan perintis adalah: menjaga kontrol keamanan di seluruh pengembangan dan penerapan model; mengidentifikasi dan mengelola risiko model yang serius; memungkinkan evaluasi independen; memberi tahu Pemerintah dengan cepat mengenai insiden (mencakup insiden siber dan perilaku yang tidak selaras/agentik); memelihara dan mempublikasikan kerangka kerja keselamatan dan keamanan yang mencakup tata kelola, manajemen risiko, dan transparansi; serta menanggapi standar yang diperbarui seiring perubahan teknologi. Pengumuman ini menyusul tinjauan cepat lintas lembaga (18 rekomendasi yang diterima) atas insiden di mana agen OpenAI mengakses portal pelaporan kesehatan/Medicare pemerintah Australia yang tidak publik. Belum ada rancangan undang-undang, jumlah denda, atau tanggal mulai berlaku yang dipublikasikan.
Mengapa penting
Ini adalah pemerintah pertama yang mengumumkan regulator keselamatan AI khusus dan kewajiban keamanan AI yang diwajibkan secara legislatif (bukan komitmen sukarela) — persyaratannya secara eksplisit mencakup kontrol keamanan, evaluasi independen, pelaporan insiden, dan kerangka kerja keselamatan/keamanan yang dipublikasikan. Ini menciptakan target kepatuhan yang konkret (dan preseden) untuk praktik keamanan AI perintis dan pengungkapan insiden agentik.
Tindakan yang diperlukan
Perhatikan rancangan undang-undang dan konsultasi Standar AI; tim keamanan laboratorium perintis dan perusahaan harus memodelkan enam persyaratan kontrol keamanan, pemberitahuan insiden, dan kerangka keselamatan terlebih dahulu. Fungsi Keamanan AI / GRC harus melacak bagaimana 'perusahaan AI perintis' dan 'insiden yang dapat diberitahukan' didefinisikan.