Apa yang terjadi
Pada 20 Oktober 2026, NCSC Inggris menulis ulang buku masalah penelitiannya untuk menyertakan bab baru, 'AI dalam keamanan siber', yang menguraikan tujuh area masalah penelitian dalam tiga tema luas: menggunakan AI untuk memperkuat pertahanan siber; keamanan dan jaminan sistem AI itu sendiri; dan menggunakan metode berbasis data untuk meningkatkan ketahanan siber secara skalabel. Tema yang berulang adalah kolaborasi manusia-AI — di mana otonomi memberikan nilai nyata, di mana penilaian manusia tetap penting, dan bagaimana pengawasan yang bermakna dipertahankan pada kecepatan mesin.
Mengapa penting
Ini adalah arahan otoritatif dari badan keamanan siber nasional terkemuka mengenai di mana kesenjangan penelitian AI-keamanan paling kritis berada, dan secara eksplisit mencatat bahwa banyak asumsi yang mendasari manajemen kerentanan, respons insiden, dan manajemen risiko saat ini sudah ada sebelum AI generatif dan agenik dan perlu berkembang. Ini langsung mengalir ke panduan NCSC dan inisiatif Cyber Shield, dan merupakan sinyal yang berguna bagi siapa pun yang memprioritaskan penelitian keamanan AI atau investasi rekayasa di Inggris. Ini membingkai masalah penelitian daripada menetapkan kontrol, sehingga ini adalah panduan, bukan kerangka normatif.
Tindakan yang diperlukan
Peneliti keamanan AI, vendor, dan operator infrastruktur kritis Inggris harus meninjau tujuh area masalah dan seruan NCSC untuk umpan balik, serta menyelaraskan prioritas penelitian/roadmap dengan kesenjangan pertahanan, jaminan, ketahanan, dan pengawasan manusia yang telah diidentifikasi.