Definisi
Cara-cara tambahan sistem AI dapat diserang karena menerima lebih dari sekadar teks — seperti gambar, audio, atau video — masing-masing memerlukan kode pemrosesan sendiri yang dapat berisi bug-nya sendiri. Penyerang dapat mengeksploitasi cara format tambahan ini didekodekan untuk menghancurkan sistem, menghabiskan sumber daya, atau menyelipkan konten berbahaya tersembunyi.
Mengapa penting
Saat produk AI berlomba menambahkan fitur suara dan gambar untuk bersaing, setiap jenis input baru secara diam-diam memperluas apa yang harus dibela tim keamanan, sering kali lebih cepat dari pada pertahanan dapat mengejar — seperti yang ditunjukkan oleh cacat dekoding audio/video berulang dalam mesin inferensi yang banyak digunakan.