Kedua istilah ini menangani risiko bahwa agen AI dapat secara otonom menyerang atau mengeksploitasi sistem. Evaluasi kapabilitas berbahaya menguji apakah agen melewati ambang kapabilitas ofensif yang kritis, sementara jaminan pentest otonom memastikan bahwa pengujian penetrasi yang digerakkan oleh AI valid dan dapat dipercaya. Keduanya merupakan lapisan penilaian dan jaminan untuk agen keamanan ofensif otonom.
Topik glosarium
Assessing and assuring autonomous offensive AI
Istilah dalam topik ini
Pantau di umpan langsung
Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →