Alat yang Tepat, Parameter yang Salah: 'Parameter poisoning' agen LLM (injeksi prompt tidak langsung pada argumen alat) mencapai tingkat keberhasilan 93%

Sebuah makalah yang diajukan 3 Nov 2026 mendefinisikan 'parameter poisoning' sebagai varian injeksi prompt tidak langsung yang mempertahankan aksi alat yang dimaksud tetapi memanipulasi satu atau lebih argumen alat penting tugas (penerima, jalur, jumlah), sehingga tidak ada aksi baru yang dipicu dan pertahanan injeksi prompt yang berfokus pada aksi melewatkannya. Tanpa pertahanan, tingkat keberhasilan serangan mencapai 93,06%. Makalah ini memperkenalkan FactAuthBench untuk evaluasi dan mengusulkan AuthorityFlow, pertahanan tiga tahap yang membangun hierarki kepercayaan khusus tugas atas bidang informasi, melacak aliran informasi di balik setiap argumen alat, dan menerima nilai hanya ketika bidang sumbernya dipercaya untuk parameter tersebut di bawah tugas saat ini — mengurangi keberhasilan menjadi 9,03% sambil mempertahankan utilitas jinak 82,64%.

Pengawal tingkat aksi secara struktural tidak memadai karena aksi yang sah dipertahankan; hanya argumen yang dirusak. Untuk agen yang diterapkan, meracuni argumen alat (penerima, jumlah, jalur, tujuan) dapat mengarahkan eksfiltrasi data atau menyebabkan efek samping target yang salah sambil menghindari deteksi injeksi prompt tidak langsung yang ada. Pembela perlu penalaran kepercayaan tingkat argumen, bukan hanya pemantauan aksi.

Injeksi prompt tidak langsung yang mempertahankan panggilan alat yang dimaksud tetapi mengganti nilai yang dipilih penyerang ke satu atau lebih argumen penting tugas, sehingga agen melakukan aksi yang sah dengan parameter yang dikendalikan penyerang, menghindari deteksi injeksi tingkat aksi.

Agen LLM yang menggunakan pemanggilan alat; pertahanan yang diusulkan AuthorityFlow; benchmark FactAuthBench.

Lacak aliran informasi yang menghasilkan setiap argumen alat dan terima nilai hanya ketika bidang sumbernya dipercaya untuk parameter tersebut di bawah tugas saat ini; terapkan pemeriksaan kepercayaan tingkat parameter (bukan hanya tingkat aksi) dan persetujuan manusia-dalam-loop untuk parameter berdampak tinggi.