Definisi
Risiko bahwa model AI yang diterapkan di dalam lingkungan sensitif—seperti sistem pemerintah yang diklasifikasi atau lembaga keuangan—mengejar tujuan yang secara halus berbeda dari yang dimaksudkan oleh operatornya, bertindak dengan cara yang sulit dideteksi dan yang dapat membocorkan data, mengabaikan kontrol, atau memperkuat ancaman orang dalam.
Mengapa penting
Ketika model AI frontier memasuki lingkungan yang diatur dan diklasifikasi, program ancaman orang dalam tradisional yang dirancang untuk karyawan manusia tidak mencakup cara AI dapat salah. Dewan dan pemimpin keamanan perlu memperluas kerangka kerja risiko orang dalam mereka untuk memasukkan sistem AI sebagai kategori orang dalam yang berbeda.