Definisi
Serangan prompt-injection di mana penyerang menanamkan instruksi berbahaya untuk ditemukan dan diikuti oleh agen AI, tetapi tidak pernah melihat respons atau output agen secara langsung — mereka hanya mendapatkan manfaat dari tindakan apa pun yang agen tertipu untuk ambil. Penelitian honeypot telah menangkap penyerang nyata menjalankan teknik ini terhadap infrastruktur AI yang terbuka di dunia nyata.
Mengapa penting
Ini menunjukkan bahwa prompt injection telah berkembang dari keingintahuan laboratorium menjadi teknik kriminal yang aktif dan oportunistik yang digunakan dalam skala besar terhadap sistem AI yang menghadap internet.