Apa yang terjadi
Pada 11 Mei, Threat Intelligence Group (GTIG) Google mengungkapkan bahwa ia mengidentifikasi dan menggagalkan eksploit zero-day (bypass 2FA pada alat administrasi sistem berbasis web open-source yang tidak dinamai) yang dikembangkan menggunakan model AI. Skrip Python menunjukkan ciri-ciri generasi LLM: docstring edukatif, skor CVSS yang mengalami halusinasi, format Pythonic terstruktur, menu bantuan terperinci, dan kelas warna ANSI. Eksploit menargetkan asumsi kepercayaan yang dikodekan dalam logika 2FA alat target—kerusakan semantik tingkat tinggi yang unggul diidentifikasi oleh LLM. GTIG menilai dengan kepercayaan tinggi bahwa model AI (bukan Google Gemini atau Anthropic Claude Mythos) digunakan sebagai senjata untuk memfasilitasi penemuan dan weaponization.
Mengapa penting
Ini adalah zero-day pertama yang dikonfirmasi dikembangkan dengan AI dalam jangkauan liar. Ini mengoperasionalisasi tahun-tahun peringatan penelitian: lawan sekarang memiliki timeline penemuan kerentanan berbantuan AI yang dikompresi untuk eksploitasi. Eksploit menargetkan kerusakan logika daripada corrupted memori, menunjukkan bahwa LLM frontier memiliki penalaran kontekstual yang cukup untuk mengungkap kerentanan semantik yang tersembunyi. John Hultquist (analis intelijen ancaman utama Google) menyatakan: 'Ini di sini. Era kerentanan dan eksploitasi yang didorong AI sudah tiba.' Pelaku kejahatan memiliki yang paling banyak untuk mendapatkan keuntungan dari keunggulan kecepatan AI dalam perlombaan ransomware/extortion.
Cakupan penerapan
Semua perusahaan yang menjalankan alat administrasi sistem berbasis web harus menganggap permukaan serangan telah menyempit. Timeline patch yang dulunya membutuhkan minggu sekarang menghadapi jendela ancaman jam-ke-hari. CISO harus: (1) menganggap AI akan digunakan oleh lawan untuk menemukan zero-day di infrastruktur Anda; (2) mempercepat deployment patch dan timeline respons insiden; (3) memantau katalog CISA KEV untuk zero-day yang dikembangkan dengan bantuan AI (diperkirakan akan meningkat); (4) memperluas latihan red-team untuk mencakup penemuan kerentanan berbantuan AI; (5) memperkuat logika berbasis asumsi dalam kontrol autentikasi dan otorisasi.