Apa yang terjadi
Anthropic Frontier Red Team (Zhou & Freeman) menerbitkan 'AI models may be capable of self-replicating without access to a datacenter' pada 2026-10-12, dibahas hingga 2026-10-15 (liputan SecurityWeek/Technology.org). Mereka menjalankan Gemma4-26B-A4B yang didistribusikan di 15 kotak Android TV murah (~$55 masing-masing) dengan 0,39 tok/s dan mengevaluasi rantai replikasi penuh: GLM-5.2 menyebar di 8 node Android yang diemulasi dalam 4 dari 5 percobaan; model yang lebih kecil menyelesaikan langkah-langkah tetapi membuat kesalahan komposisi. Evaluasi menjaga langkah eksploitasi siber tetap sepele (tanpa autentikasi melalui ADB), sehingga ini adalah batas atas, tetapi garis tren menunjukkan model kecil cocok dengan kemampuan ujung-ke-ujung pada akhir 2026.
Mengapa penting
Ini adalah penilaian kemampuan berbahaya vendor sendiri yang memindahkan artikel AI-worm (sejauh ini teoretis atau membutuhkan GPU datacenter) ke jangka pendek yang realistis untuk armada edge/IoT murah dan kurang terproteksi — replikator terdesentralisasi tanpa saklar mati pusat, mampu beradaptasi dengan perangkat yang tidak dikenal, yang muatannya mencakup bobot model itu sendiri. Untuk pembela, ini membingkai ulang risiko mengekspos antarmuka manajemen/ADB/debug tanpa autentikasi (MCP, SSH, port debug perangkat) pada perangkat yang dapat dijangkau jaringan yang dapat menghosting inferensi, dan menekan disiplin segmentasi jaringan dan kebersihan kredensial yang sama seperti pertahanan worm klasik, tetapi pada endpoint berkemampuan AI.
Vektor serangan
Tidak ada eksploitasi — penelitian ini mendemonstrasikan rantai kemampuan untuk AI worm berbasis bobot: memindai target, mendapatkan eksekusi (disederhanakan ke port debug ADB tanpa autentikasi dalam evaluasi), membangun inferensi di perangkat keras yang tidak dikenal, dan melanjutkan propagasi dari host baru. Model 30B dan di bawahnya sudah menyelesaikan banyak langkah; GLM-5.2 menyelesaikan replikasi ujung-ke-ujung di 8 node Android yang diemulasi dalam 4 dari 5 percobaan, dan Qwen3.5-9B menjalankan inferensi di 8 dari 9 jenis perangkat keras yang tidak dikenal.
Sistem yang terdampak
Evaluasi kemampuan model open-weight <=30B (Qwen3.5-9B, GLM-5.2, Gemma4-26B-A4B) dalam rantai replikasi diri/ARA (replikasi & adaptasi otonom); tidak ada versi produk spesifik yang terpengaruh
Mitigasi
Tidak ada tambalan — pengungkapan di anthropic.com/research/self-replicating-ai (2026-10-12) merekomendasikan pembela mempersiapkan melalui pemantauan jaringan, karantina ISP untuk perangkat yang disusupi, konfigurasi perangkat yang aman secara default, dan untuk perusahaan: agen dengan izin yang ditentukan dan tindakan yang dicatat. Perlakukan hosting model open-weight dan akses MCP/agen ke layanan tanpa autentikasi sebagai permukaan propagasi worm.