Definisi
Model yang pelatihan keamanannya telah dibuang secara bedah — lapisan penolakannya dihapus sehingga ia dengan senang hati akan melakukan hal-hal yang sebelumnya dilatih untuk menolak, seringkali hanya dengan perubahan kode kecil. Penyerang menggunakan model ini ketika mereka menginginkan model tanpa pagar pengaman untuk pekerjaan jahat, dan salah satunya digunakan dalam pencurian nyata kredensial AI pelanggan.
Mengapa penting
Ini menunjukkan bahwa model terbuka yang 'aman' dapat didandani ulang menjadi alat tanpa batasan, yang mengubah perhitungan risiko bagi siapa pun yang mengandalkan reputasi atau klaim keamanan publik.