Definisi
Sebuah file model AI (biasanya diunduh dari repositori publik seperti HuggingFace) yang telah dirusak untuk mengeksekusi kode penyerang saat dimuat oleh server AI yang sah. Tidak seperti malware tradisional, tidak ada executable yang mencurigakan — serangan tersembunyi di dalam bobot model atau kode terkait, dan dipicu secara otomatis saat pengembang atau server produksi memuat model tersebut.
Mengapa penting
Tim AI secara rutin mengunduh model yang telah dilatih sebelumnya dari hub publik untuk menghemat waktu dan biaya; satu model yang terkontaminasi dapat memberikan penyerang kontrol penuh terhadap server AI dan semua yang terhubung dengannya. Serangan ini tidak memerlukan interaksi pengguna dan melewati sebagian besar alat antivirus tradisional.