Definisi
Persyaratan regulasi bahwa setiap agen AI otonom yang digunakan dalam pengaturan pemerintah atau situasi berisiko tinggi harus memiliki mekanisme yang andal untuk segera menghentikan, menangguhkan, atau mengesampingkan tindakannya — ditegakkan oleh manusia, bukan oleh AI itu sendiri. Playbook AI pemerintah Australia dan beberapa kerangka kerja berkembang lainnya sekarang mewajibkan ini sebagai fitur arsitektur yang tidak dapat dinegosiasikan.
Mengapa penting
Saat agen AI mengambil tindakan otonom — memesan, membeli, memodifikasi catatan, mengendalikan sistem — ketiadaan mekanisme penghentian yang andal berarti kesalahan atau serangan dapat bertambah parah sebelum manusia dapat campur tangan. Regulator mulai memperlakukan kill-switch sebagai garis dasar keselamatan minimum, bukan fitur opsional.