Definisi
Menerobos keluar dari lingkungan terbatas yang digunakan untuk mengeksekusi kode tidak tepercaya dari AI atau model secara aman, sehingga penyerang mendapatkan kekuatan mesin host di luar sandbox. Ketika diterapkan pada agen penulisan kode dan platform AI yang menjalankan kode yang dihasilkan model, hal ini mengubah trik tingkat prompt menjadi kompromi penuh pada mesin.
Mengapa penting
Sandbox adalah alasan utama organisasi merasa aman membiarkan AI menghasilkan dan menjalankan kode; kebocoran yang terbukti berarti asumsi keamanan itu hilang dan dinding antara AI dan host harus dianggap mencurigakan.