Apa yang terjadi
vLLM hanya memvalidasi jumlah gambar dan batas per-item sebelum menjadwalkan setiap gambar jarak jauh untuk diunduh dan didekode, dan tidak memberlakukan anggaran byte terenkode/terdekode atau memori di seluruh permintaan. Satu permintaan ringkas ke /v1/messages, /v1/responses, atau jalur chat-rendering yang setara yang berisi banyak URL gambar yang masing-masing valid mengkonsumsi koneksi keluar, CPU decoder, dan memori frontend API sebelum penerimaan panjang prompt. Klien jarak jauh dapat menyebabkan konsumsi sumber daya yang tidak proporsional dengan satu permintaan yang secara sintaksis kecil; autentikasi API opsional secara default, sehingga akses inferensi biasa sudah cukup.
Mengapa penting
Ini adalah primitif denial-of-wallet / kehabisan sumber daya terhadap mesin inferensi yang banyak digunakan. Penyerang dengan akses API inferensi normal dapat mendorong saturasi CPU, memori, dan koneksi-pool di server model, menurunkan frontend layanan untuk klien lain atau menghentikan proses API — serangan amplifikasi sumber daya berbiaya rendah dan berdampak tinggi pada lapisan layanan.
Vektor serangan
Klien jarak jauh mengirim satu permintaan ringkas dengan banyak URL gambar jarak jauh ke /v1/messages atau /v1/responses, memaksa unduh+dekode setiap gambar sebelum penerimaan, menguras memori/CPU/koneksi-pool frontend.
Sistem yang terdampak
vLLM 0.6.0 hingga sebelum 0.33.0 (jalur multimodal chat/responses)
Mitigasi
Tingkatkan ke vLLM 0.33.0 atau lebih baru (memberlakukan anggaran media di seluruh permintaan). Sementara itu, aktifkan autentikasi API dan pasang batas ukuran/tingkat permintaan body di depan endpoint.