Kerentanan  ·  2026-11-22

ACaM: description-code inconsistency / 'capability laundering' attack class in agentic AI tool surfaces

KerentananMedium dampakGlobal
Makalah ini memformalkan Description-Code Inconsistency (DCI) dan kelas ancaman 'capability laundering' yang dihasilkan, dan menyajikan ACaM, pendekatan neurosimbolik yang menurunkan kemampuan alat dari kode sehingga kemampuan yang dicuci tidak dapat bersembunyi di balik deskripsi yang jinak. Ini merekonstruksi rantai ancaman yang mencakup beberapa panggilan alat dan mengonfirmasi 10 jalur rentan dengan PoC di seluruh agen nyata yang tidak dimodifikasi.
Mendefinisikan kelas serangan yang nyata dan dapat dieksploitasi untuk sistem agenik di mana alat yang diberi tahu aman dapat mengeksfiltrasi atau bertindak — relevan langsung untuk tinjauan rantai pasokan server MCP dan alat agen.
Agen mempercayai deskripsi alat sebagai proksi untuk perilakunya, tetapi tidak ada yang memastikan deskripsi dan implementasi sesuai. Alat dapat secara diam-diam mengandung perilaku berbahaya (misalnya membaca file kredensial dan mengirimkannya dalam header HTTP) yang berjalan setiap kali agen memanggilnya untuk tujuan jinak yang dinyatakan — baik dari penyimpangan insidental atau kompromi rantai pasokan.
Permukaan alat agen dan MCP umumnya — alat yang deskripsi bahasa alaminya tidak sesuai dengan implementasinya (capability laundering); 43 agen dianalisis
Tidak ada patch khusus; mitigasi dengan memvalidasi kemampuan alat dari kode (analisis statis / pemodelan kemampuan) daripada deskripsi alat baik pada waktu desain maupun runtime.
arXiv 2611.23507 — ACaM: Automated Capability Modeling for Agentic AI Security
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →