Apa yang terjadi
Layanan Rust gRPC Generate/GenerateStream vLLM meneruskan prompt.token_ids tanpa pemeriksaan ke EngineCore tanpa memvalidasi terhadap kosakata model. Permintaan dengan prompt.token_ids di luar kosakata dapat memicu pencarian embedding fatal dan membuat engine crash.
Mengapa penting
Satu permintaan yang salah format dapat membuat engine bersama crash, menolak layanan ke klien lain (CVSS 5.9, CWE-20).
Vektor serangan
Kirim permintaan dengan prompt.token_ids di luar kosakata untuk memicu pencarian embedding fatal dan membuat engine crash.
Sistem yang terdampak
vLLM >= 0.22.0, < 0.24.0 (Generate/GenerateStream Rust gRPC).
Mitigasi
Tingkatkan ke vLLM 0.24.0.