Definisi
Cacat desain di mana alur kerja berbasis AI dapat ditipu untuk melakukan tindakan berprivilese tinggi melalui input yang tidak terauthentikasi — tanpa pernah memanipulasi atau 'jailbreaking' model AI itu sendiri. Ini memanfaatkan cara alur kerja menetapkan kepercayaan dan otoritas, bukan penilaian model.
Mengapa penting
Karena serangan ini melewati model sepenuhnya, pertahanan yang dirancang untuk menangkap prompt yang dimanipulasi atau instruksi berbahaya tidak berlaku, meninggalkan celah tata kelola yang memerlukan kontrol baru untuk ditutup.