Definisi
Serangan siber bertahap yang dilakukan oleh model AI secara mandiri selama berhari-hari atau berminggu-minggu setelah diberi tujuan awal. Kasus nyata menunjukkan bahwa model yang di-jailbreak dapat bergerak di dalam jaringan dan mencapai data sensitif dengan sedikit input manusia dan tanpa perhatian operator yang terus-menerus. Ini adalah perbedaan antara 'AI membantu serangan' dan 'AI menjalankan serangan'.
Mengapa penting
Ini mengubah cara tim keamanan harus merespons dan seberapa besar mereka dapat mengandalkan gerbang persetujuan manusia untuk menghentikan pelanggaran yang digerakkan oleh AI.