Apa yang terjadi
UK AI Safety Institute menerbitkan laporan penelitian pada 21 Mei 2026, menguji apakah metode pengawasan AI saat ini akan tetap efektif seiring sistem menjadi lebih mampu. Berdasarkan 25 wawancara ahli di seluruh pengembang AI frontier, pemerintah, LSM, dan akademisi, laporan ini mengidentifikasi empat permukaan pengawasan — aktivasi internal, penalaran rantai-pikiran, tindakan eksternal, dan komunikasi antar-agen — dan memetakan lebih dari dua puluh jalur yang dapat mengalami degradasi. Temuan utama: penalaran chain-of-thought (CoT), saat ini sinyal pemantauan paling informatif, menghadapi tekanan signifikan dari arsitektur penalaran laten yang memungkinkan model bernalar sepenuhnya dalam keadaan internal daripada teks yang dapat dibaca manusia; pemantauan tindakan-saja menyediakan dasar tetapi tidak cukup sendiri; dan pelatihan untuk pengawasan (misalnya, melatih model untuk jujur atau transparan) mungkin tidak dapat digeneralisasi ke konteks penerapan. Laporan menyimpulkan bahwa pengawasan saat ini bergantung pada properti kontingen dari sistem AI hari ini yang mungkin tererosi tanpa intervensi, dan metode yang sedang berkembang belum cukup matang untuk mengkompensasi.
Mengapa penting
Argumen keselamatan untuk AI lanjutan semakin bergantung pada pengawasan — kemampuan untuk mengaudit model sebelum penerapan, memantau perilaku selama penggunaan, dan menyelidiki insiden setelah terjadi. Jika pengawasan mengalami degradasi pada tingkat yang disarankan laporan, institusi akan kehilangan kemampuan untuk mendeteksi misalignment, reward hacking, evaluation gaming, dan risiko lainnya sebelum penerapan, memaksa ketergantungan eksklusif pada pencegahan (yang tidak dapat menghilangkan risiko residual dalam sistem sosio-teknis yang kompleks). Laporan ini mengungkapkan ketidaksetujuan ahli tentang asumsi kritis — apakah penalaran laten akan mendominasi, apakah pemantauan tindakan mencukupi, apakah honeypot alignment bermakna — mengekspos kesenjangan dalam kasus keselamatan saat ini.
Tindakan yang diperlukan
Tim tata kelola AI harus menginventarisir teknik pengawasan mana yang diandal organisasi mereka dan menilai eksposur terhadap jalur degradasi yang diidentifikasi laporan; pengembang model harus mengevaluasi apakah pemantauan chain-of-thought tetap layak untuk garis waktu penerapan mereka dan berinvestasi dalam teknik yang sedang berkembang (akses white-box, protokol kontrol) sebagai fallback; dewan harus bertanya apakah kasus keselamatan secara eksplisit memperhitungkan degradasi pengawasan atau mengasumsikan kapasitas pemantauan saat ini akan bertahan.