Defense  ·  Glosarium

Intent-to-permission mismatch

Kesenjangan antara apa yang diklaim atau seharusnya dilakukan oleh agen AI (tujuan yang dideklarasikan) dan izin sistem aktual yang dimiliki atau digunakannya. Alat keamanan baru membandingkan niat yang dinyatakan oleh agen terhadap hak aksesnya untuk menandai kasus di mana agen telah diberikan — atau menggunakan — kekuatan yang jauh lebih besar daripada yang diperlukan oleh pekerjaannya.
Karena agen AI diberikan akses yang luas dan berkelanjutan untuk mempercepat pekerjaan, ketidakcocokan ini menjadi salah satu cara paling umum di mana privilege berlebihan terakumulasi secara diam-diam dan tidak diperhatikan sampai dieksploitasi.
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →