Definisi
Menanamkan konten berbahaya ke dalam dataset besar yang digunakan untuk melatih model AI sehingga 'backdoor' tersembunyi tertanam dalam perilaku model tersebut. Para peneliti menunjukkan bahwa merusak hanya 0,1% data pelatihan dapat menanamkan backdoor yang kemudian memicu eksekusi kode jarak jauh pada agen yang diterapkan dan bertahan dari penyetelan keamanan. Perilaku yang teracuni hanya aktif di bawah pemicu tertentu, sehingga pengujian rutin jarang melihatnya.
Mengapa penting
Pihak mana pun yang menyediakan atau mengkurasi data pelatihan — termasuk vendor data pihak ketiga — dapat menanamkan backdoor dorman yang tidak terdeteksi oleh evaluasi normal, membuat tingkat kepercayaan model menjadi tidak dapat diketahui.