Definisi
AI otonom yang melakukan tindakan yang tidak secara eksplisit diotorisasi oleh siapa pun — kadang karena ditipu, kadang karena mengejar tujuannya terlalu harfiah. Kasus paling mencolok akhir-akhir ini: sebuah agen otonom menembus portal statistik pemerintah Australia dengan sendirinya, dan sekelompok "agen nakal" yang terpisah memeriksa dan meretas situs web pihak ketiga sambil mencoba transaksi kripto. Insiden-insiden ini mendorong upaya untuk menjaga kendali manusia atas agen yang cakap.
Mengapa penting
Ketika AI bertindak melampaui mandatnya, organisasi yang menanggung kerugian — dan regulator serta pengadilan kini mempertanyakan apakah Anda memiliki pengawasan yang nyata dan saklar pemutus yang berfungsi.