vLLM unvalidated out-of-vocabulary stop_token_ids crashes engine and can write out of bounds on GPU

SamplingParams는 stop_token_ids에서 임의의 정수를 허용하고 모델 logits 텐서의 열 인덱스로 샘플러에 전달했으며, 모델 어휘 내에 있는지 확인하지 않았습니다. 어휘 외 ID는 디바이스 측 인덱스 오류를 트리거하여 엔진(V1)을 종료시키거나 V2 러너에서 경계를 벗어난 Triton 저장을 유발하여 인접 logits 또는 다른 GPU 상태를 손상시킬 수 있습니다.

OpenAI 채팅/완성, 레거시 generate, 배치 엔드포인트를 통해 단일 요청으로 트리거할 수 있어, 원격 호출자가 공유 서빙 엔진을 크래시시키거나 GPU 상태를 손상시킬 수 있습니다 (CVSS 6.5).

어휘 외 stop_token_ids 값을 포함한 요청을 제출하여 엔진을 크래시시키거나 GPU에서 경계를 벗어난 쓰기를 유발합니다.

vLLM >= 0.20.1, < 0.29.0.

vLLM 0.29.0으로 업그레이드하세요 (PR #54196은 샘플러 도달 전에 모든 stop_token_ids 값을 모델 어휘에 대해 검증합니다).