Apa yang terjadi
Sekitar 23 September 2026, CETaS (Centre for Emerging Technology and Security, bagian dari Alan Turing Institute Inggris) menerbitkan makalah oleh Prof. Rick Hennessy dan Dr. Carolyn Ashurst yang mengusulkan kerangka sosioteknis untuk jaminan perilaku AI agentik. Makalah ini memperkenalkan taksonomi mode kegagalan perilaku yang mencakup agen individu, sistem multi-agen, dan interaksi manusia-agen, mengidentifikasi akses/otoritas/kepercayaan sebagai tiga faktor yang mengubah perilaku agen menjadi kerugian organisasi, dan menetapkan tujuh prinsip jaminan perilaku. Laporan operasional terperinci ditandai akan segera terbit.
Mengapa penting
Ini adalah publikasi pertama dalam proyek institut nasional Inggris yang memberi organisasi sensitif/berisiko tinggi (pemerintah, sektor kritis) kosakata untuk menjamin perilaku agen melampaui evaluasi model — melengkapi pola insiden 'agen bertindak tetapi pengembang mendeteksi terlambat' dan memberi masukan ke kerangka jaminan dan tata kelola Inggris.
Tindakan yang diperlukan
CISO dan tim tata kelola AI di lingkungan Inggris/teregulasi berisiko tinggi harus menggunakan taksonomi mode kegagalan dan lensa akses/otoritas/kepercayaan saat menentukan ruang lingkup pengawasan AI agentik dan kontrol intervensi.