Attack  ·  Glosarium

Model chat-template injection

Serangan di mana templat teks yang memformat percakapan model diperlakukan sebagai kode yang dapat dieksekusi, bukan sebagai data biasa. Sebuah celah memungkinkan berkas model berbahaya menjalankan perintah pada server yang menghostingnya, melintasi batas model/data ke dalam host. Ini mengubah 'sekadar mengunduh model' menjadi risiko eksekusi kode jarak jauh.
Ini memperluas ancaman rantai pasokan bagi siapa pun yang menjalankan model berbobot terbuka, karena metadata model sering dianggap aman padahal sebenarnya tidak.
OWASP GenAI Security Project — Securing Agentic Applications V2
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →