stop_token_ids vLLM yang tidak divalidasi di luar kosakata membuat engine crash dan dapat menulis di luar batas di GPU

SamplingParams menerima integer apa pun di stop_token_ids dan meneruskan nilainya ke sampler sebagai indeks kolom ke tensor logits model, tanpa memverifikasi bahwa nilainya berada dalam kosakata model. ID di luar kosakata dapat memicu kesalahan indeks sisi perangkat dan menghentikan engine (V1) atau penyimpanan Triton di luar batas di runner V2, berpotensi merusak logits yang berdekatan atau status GPU lainnya.

Ini dapat dipicu melalui OpenAI chat/completion, generate lama, dan endpoint batch dengan satu request, memungkinkan pemanggil jarak jauh membuat engine serving bersama crash atau merusak status GPU (CVSS 6.5).

Kirim request yang berisi nilai stop_token_ids di luar kosakata untuk membuat engine crash atau menulis di luar batas di GPU.

vLLM >= 0.20.1, < 0.29.0.

Tingkatkan ke vLLM 0.29.0 (PR #54196 memvalidasi setiap nilai stop_token_ids terhadap kosakata model sebelum mencapai sampler).