Attack  ·  Glosarium

Agent command approval bypass

Serangan yang menipu agen pengkodean AI untuk menjalankan perintah shell yang seharusnya memicu prompt 'setujui ini?' dari manusia. Penyerang mengeksploitasi celah parsing yang halus sehingga pemeriksaan izin pada agen hanya melihat awalan yang diizinkan dan diam-diam mengeksekusi sisa perintah.
Prompt persetujuan sering kali menjadi satu-satunya titik pemeriksaan manusia sebelum agen bertindak pada sistem Anda, dan beberapa agen pengkodean yang dirilis memiliki gerbang yang dapat dilewati pada periode ini. Melewatinya mengubah satu prompt atau dokumen berbahaya menjadi eksekusi perintah penuh pada mesin pengembang.
OWASP GenAI Security Project — LLM Top 10
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →