Attack  ·  Glosarium

Parameter poisoning

Serangan injeksi prompt tidak langsung di mana input berbahaya secara diam-diam merusak hanya argumen yang dimasukkan ke dalam panggilan alat, sementara tindakan yang sah tampaknya masih berjalan. Karena tindakan itu sendiri terlihat normal, pemeriksaan keamanan tingkat tindakan melewatkannya — hanya parameternya yang salah.
Serangan ini berhasil sekitar 93% dari waktu pada agen yang benar-benar digunakan, yang berarti bahkan agen yang dijaga ketat pun dapat diarahkan ke tindakan berbahaya tanpa ada yang menyadari anomali tersebut.
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →