Defense  ·  Glosarium

Least agency (principle)

Prinsip desain yang mengatakan agen AI harus diberikan kemampuan absolut minimum untuk mengambil tindakan — dan alat, izin, dan jangkauan paling sedikit — yang diperlukan untuk melakukan pekerjaan spesifiknya, tidak lebih. Ini memperluas ide 'least privilege' yang sudah dikenal dari akun pengguna manusia ke konsep yang lebih luas tentang apa yang benar-benar diizinkan untuk dilakukan oleh agen otonom.
Agen dengan otonomi lebih dari yang mereka butuhkan adalah sumber kerusakan terbesar ketika mereka dimanipulasi atau mengalami kerusakan; penegakan least agency membatasi radius ledakan dari setiap agen AI yang dikompromikan atau bingung.
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →