Definisi
Lapisan perangkat lunak yang berada di antara model AI dan dunia luar — menentukan data apa yang dapat dilihat oleh agen AI, alat mana yang dapat digunakannya, dan tindakan apa yang diizinkannya. Badan keamanan siber nasional sekarang menganggap lapisan ini, bukan model yang mendasarinya, sebagai tempat utama di mana kontrol keamanan perlu diterapkan.
Mengapa penting
Penyerang dan regulator sama-sama mengalihkan fokus dari 'apakah model aman' ke 'apakah harness aman' — harness yang tidak terkontrol dengan baik dapat membiarkan agen mengambil tindakan dunia nyata yang merusak bahkan jika AI itu sendiri berperilaku persis seperti yang dimaksudkan.