vLLM — embeddings/pooling 엔드포인트의 음수 토큰 ID를 통한 인증되지 않은 엔진 크래시 (GPU 컨텍스트 중독)

vLLM의 embeddings/pooling API에 대해 제작된 음수 토큰 ID를 사용한 단일의 인증되지 않은 네트워크 요청이 치명적인 CUDA 어설션을 트리거하여 공유 GPU 컨텍스트를 중독시키고 그 추론 인스턴스의 다른 모든 요청에 대한 서비스를 거부합니다.

이는 널리 배포된 추론 엔진의 멀티테넌트 GPU 컨텍스트에 대한 자명하게 악용 가능한 단일 요청 인증되지 않은 DoS입니다. 하나의 악의적 요청이 연산자가 프로세스를 재시작할 때까지 모든 공동 배치된 사용자/테넌트에 대한 서비스를 저하시키며, 이는 모든 공유 vLLM 배포에 대한 심각한 가용성 위험입니다.

vLLM은 /v1/embeddings 및 /pooling 엔드포인트에 제출된 토큰 ID의 하한을 검증하지 못합니다. 음수 토큰 ID를 포함하는 단일 요청이 GPU 컨텍스트를 중독시키는 CUDA 디바이스 측 어설션을 트리거하여 프로세스가 재시작될 때까지 그 엔진의 모든 후속 요청이 실패하게 합니다.

vLLM before 0.28.0

GitHub Security Advisory GHSA-25q3-v2hm-8vpf에 따라 vLLM 0.28.0 이상으로 업그레이드합니다.