Definisi
Perilaku jahat tersembunyi yang tertanam di dalam model dan tetap tidak aktif sampai pemicu spesifik mengaktifkannya. Penelitian menunjukkan bahwa perilaku ini dapat ditanamkan hanya dengan mengubah beberapa 'neuron' internal — dan yang penting, dapat dideteksi. Ini adalah bentuk gangguan yang sangat sulit dilihat yang tidak akan disadari oleh pengguna hilir.
Mengapa penting
Bahkan model yang tidak Anda latih pun dapat diam-diam membawa instruksi untuk bertindak salah di kemudian hari, yang merupakan risiko rantai pasokan yang serius bagi semua pihak di hilir.