Apa yang terjadi
Pusat RAND tentang AI, Keamanan, dan Teknologi mempresentasikan kerangka kerja yang terstruktur dan berfokus pada kerentanan untuk mengidentifikasi dan menjadi ciri kelemahan keamanan dalam sistem AI generatif, melampaui taksonomi serangan konvensional. Para penulis secara sistematis menguraikan arsitektur AI—dari data pelatihan dan tokenisasi melalui lapisan transformer hingga antarmuka penerapan—untuk memetakan di mana dan bagaimana kerentanan timbul, mengidentifikasi '31 kelas kerentanan AI yang berbeda,' sebagian besar di antaranya berbeda secara fundamental dari cacat perangkat lunak tradisional karena muncul dari dinamika pembelajaran probabilistik, komposisi data, dan pertukaran optimasi daripada kesalahan kode deterministik. Laporan menemukan bahwa banyak kerentanan ini hanya sebagian dapat diperbaiki, memerlukan penjaga arsitektur, validasi asal, dan pemantauan berkelanjutan daripada pembaruan perangkat lunak konvensional, dan merekomendasikan pengintegrasian kerentanan khusus AI ke dalam standar global untuk manajemen risiko sistematis. Ditulis oleh Elie Alhajjar, Sasha Romanosky, Kyle A. Kilian, dan Joe Uchill, dan diterbitkan 30 Juli 2026.
Mengapa penting
CISOs dan arsitek keamanan memerlukan taksonomi struktural (bukan hanya berbasis teknik adversarial) untuk menetapkan ruang lingkup red-teaming AI, pengungkapan kerentanan, dan program manajemen patch, karena temuan inti laporan — bahwa sebagian besar cacat AI tidak dapat hanya diperbaiki seperti bug perangkat lunak — memiliki implikasi langsung untuk cara perusahaan menganggarkan pemantauan berkelanjutan versus perbaikan satu kali.
Tindakan yang diperlukan
Petakan program red-teaming AI dan manajemen kerentanan saat ini terhadap taksonomi 31 kelas laporan untuk mengidentifikasi kesenjangan cakupan struktural yang akan dilewatkan oleh pemindaian kerentanan perangkat lunak tradisional.