Definisi
Menggunakan penolakan keamanan dari model AI itu sendiri — momen ketika ia berhenti dan berkata 'Saya seharusnya tidak melakukan ini' — sebagai petunjuk untuk menemukan kelemahan dalam sebuah sistem. Peneliti keamanan dan penyerang sama-sama dapat membaca penolakan ini untuk menemukan di mana pertahanan sebuah organisasi paling tipis.
Mengapa penting
Ini membalik asumsi bahwa pagar pengaman hanya berfungsi sebagai pembatas; setiap penolakan dapat membocorkan informasi tentang di mana perlindungan paling lemah, sehingga pagar pengaman yang memperlambat penyerang juga dapat memberi tahu mereka.