Definisi
Banyak model AI disimpan dan dibagikan menggunakan format file ('pickle') yang dapat secara diam-diam berisi instruksi untuk menjalankan kode apa pun pada saat file dibuka, bukan hanya data model. Bahkan alat yang dibangun khusus untuk memindai file ini mencari bahaya dapat dibodohi untuk menandai model yang dipasang perangkap sebagai aman.
Mengapa penting
Perusahaan secara rutin mengunduh model pra-terlatih dari hub publik; jika langkah pemindaian keamanan itu sendiri dapat dilewati, organisasi mungkin tanpa disadari memuat model yang memberikan penyerang akses ke sistem internal.