Definisi
Checkpoint dalam alur kerja agen AI yang memerlukan manusia — atau sistem otorisasi terpisah — untuk meninjau dan mengkonfirmasi sebelum agen mengambil tindakan konsekuensial seperti menghapus file, mengirim pesan, atau menjalankan perintah. Approval gate adalah rem keselamatan utama pada perilaku AI otonom.
Mengapa penting
Ketika approval gate dinonaktifkan atau dikodkan keras untuk auto-approve — seperti yang ditemukan dalam sistem produksi nyata — organisasi kehilangan satu-satunya pemeriksaan manusia pada tindakan AI yang berpotensi merusak, mengekspos mereka terhadap kerusakan yang dipicu secara tidak sengaja atau berbahaya dengan kecepatan mesin.