Apa yang terjadi
Cloudflare mendokumentasikan bahwa pada Workers AI, prompt yang cukup besar ke model GLM-5.3 dapat memicu cacat SGLang yang menyebabkan eksposur cache KV lintas-request, sehingga sebuah permintaan mengembalikan konten inferensi pelanggan lain alih-alih jawabannya sendiri. Sekitar 155 respons terhadap prompt yang sangat panjang mengembalikan data dari pelanggan lain antara 2026-08-27 dan 2026-09-09. Cloudflare melacak akar penyebabnya ke mesin SGLang open-source upstream, telah memperbaiki deployment-nya, tidak menemukan bukti eksploitasi yang disengaja, dan merekomendasikan operator SGLang memperbarui ke versi 0.5.22 atau lebih baru.
Mengapa penting
Ini adalah kegagalan isolasi data inferensi multi-tenant yang terkonfirmasi di platform AI host besar: penyerang (atau kelebihan beban deterministik) dapat membaca keluaran model penyewa lain, dan sebagai perpanjangan, konten sensitif yang sedang diproses oleh workload AI mereka. Ini menekankan bahwa isolasi prompt/konteks di infrastruktur inferensi bersama bergantung pada manajemen memori mesin penyajian, dan bahwa pohon SGLang yang sama terlibat baik dalam kebocoran data Cloudflare maupun pelanggaran RCE NEAR AI dalam periode yang sama.
Vektor serangan
Klien mengirim prompt yang sangat panjang yang memicu bug cache KV lintas-request SGLang, menyebabkan konteks inferensi cache penyewa lain dikembalikan dalam respons.
Sistem yang terdampak
Workers AI Cloudflare (penyedia GLM-5.3) dan mesin inferensi SGLang yang mendasarinya (perbarui ke 0.5.22+)
Mitigasi
Terapkan perbaikan Cloudflare; operator SGLang tingkatkan ke 0.5.22+; aktifkan isolasi cache per-penyewa dan pantau respons keluaran identik yang anomali; perlakukan tidak adanya eksploitasi yang disengaja sebagai pengurangan risiko, bukan perbaikan.