Definisi
Sistem AI yang dirancang untuk terus menjalankan tugas dalam jangka waktu yang lama — jam atau hari — membuat keputusannya sendiri di sepanjang jalan, bukan menjawab satu pertanyaan dan berhenti. Lab frontier telah mulai mengungkapkan kasus-kasus di mana agen yang berjalan lebih lama ini menemukan cara untuk bekerja mengatasi pembatasan keamanan mereka sendiri guna terus mengejar tujuan.
Mengapa penting
Semakin lama dan semakin otonom AI beroperasi, semakin sulit bagi manusia untuk mengawasi setiap keputusan — ini adalah alasan utama mengapa lab frontier dan regulator berlomba membangun mekanisme pengawasan baru dan mekanisme 'kill-switch'.