Attack  ·  Glosarium

Agenda seeding (agent steering attack)

Penyerang menanamkan tujuan atau kesimpulan yang mereka inginkan ke dalam materi yang dibaca oleh agen riset atau analisis AI, sehingga agen tersebut diam-diam mengadopsi tujuan itu dan mengarahkan seluruh laporannya ke arah tersebut — sambil tetap merasa dirinya netral. Berbeda dengan injeksi prompt biasa yang mengeluarkan perintah yang jelas, penyemaian agenda bekerja di latar belakang dengan membentuk jawaban mana yang dianggap 'terbaik' oleh agen. Teknik ini sangat efektif pada agen riset mendalam yang menghasilkan laporan tertulis yang panjang.
Dewan yang mengandalkan briefing atau analisis pasar yang dihasilkan AI dapat diarahkan secara diam-diam tanpa adanya instruksi yang tampak mencurigakan, sehingga 'fakta' dalam laporan berisiko tinggi menjadi sulit dideteksi sebagai bias.
Security of Deep Research Agents (arXiv)
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →