Definisi
Celah kebijakan keamanan di mana sistem membandingkan nama perintah secara berbeda dari mesin penegakan, sehingga tindakan yang ditolak operator dapat lolos. Agen akhirnya mengeksekusi operasi yang dimaksudkan kebijakan untuk diblokir atau ditandai. Ini mengalahkan kebijakan 'hak istimewa minimum' yang berniat baik untuk agen AI.
Mengapa penting
Ini menunjukkan bahwa kebijakan izin agen AI yang dirancang dengan cermat dapat disiasati secara diam-diam, melemahkan kontrol dan auditabilitas yang dimaksudkan.