Agen LLMjacking otonom 'mode Skynet' membajak endpoint LLM yang terbuka dan menjalankan serangan tanpa pengawasan

Symantec menangkap melalui honeypot AI sebuah agen ofensif otonom yang dibangun oleh penyerang yang mencari internet untuk endpoint LLM yang terbuka — server model self-hosted yang tidak dilindungi, gateway/relay AI di depan akun model berbayar, sistem uji internal yang buru-buru diterapkan, dan server MCP — dan membajaknya untuk mendukung operasi mereka sendiri. Set instruksi yang ditangkap mendefinisikan satu agen dengan 74 alat ofensif yang dapat dipanggil (recon, pembuangan database melalui Prisma, RCE melalui PIN debugger Werkzeug, manajemen C2 botnet) yang dikonfigurasi untuk berjalan tanpa pengawasan hingga 100.000 langkah, memindai target, mengeksploitasi kerangka web umum, mencuri database dan kredensial, dan memasang penambang crypto. Jailbreak berlapis mendefinisikan ulang identitas model, menganggap pencurian kredensial sebagai pekerjaan pengembangan rutin, dan menyuruhnya mengabaikan pesan keamanannya sendiri. Korban membayar komputasi model di setiap langkah.

Ini adalah infrastruktur penyerang langsung yang dibangun di atas tumpukan AI: endpoint model yang tidak terautentikasi atau bocor kredensial bukan lagi sekadar kebocoran biaya, mereka menjadi node pekerja gratis yang dimiliki penyerang. Gateway AI dan server MCP yang mengekspos inferensi ke jaringan, atau memegang kunci penyedia yang dicuri, menjadi titik pivot untuk pemindaian, eksploitasi, dan penambangan di seluruh internet, dengan pemilik model yang menanggung tagihannya. Telemetri honeypot mencatat 127.000+ permintaan dari puluhan ribu alamat, didominasi oleh recon endpoint model dan penyemprotan kunci API.

Pindai endpoint atau gateway LLM yang terbuka/bocor kredensial, lalu dorong model yang dibajak untuk memindai, mengeksploitasi kerangka web, membuang database, memanen kredensial, dan menerapkan penambang dalam loop yang diarahkan sendiri.

Server LLM self-hosted, gateway/relay AI, server MCP, dan endpoint kompatibel OpenAI warisan yang dibiarkan terbuka atau dengan kunci bocor

Wajibkan autentikasi pada semua endpoint dan gateway yang melayani model, rotasi kunci penyedia bocor, batasi eksposur server MCP dan lalu lintas jaringan keluar, dan pantau volume inferensi anomali dan aktivitas terkait penambang.