vLLM 분리형 /inference/v1/generate가 일관성 없는 멀티모달 메타데이터로 엔진을 크래시시킴

vLLM 분리형 /inference/v1/generate 엔드포인트는 일관성 없는 멀티모달 메타데이터를 허용합니다: 클라이언트가 반복되거나 겹치는 mm_placeholder 값을 가진 유효한 멀티모달 항목을 재생할 수 있으며, 이는 적절히 검증되지 않아 엔진을 크래시시킬 수 있습니다.

원격 호출자가 분리형 (P/D) 배포에서 서빙 엔진을 크래시시켜 다른 요청의 서비스를 거부할 수 있음 (CVSS 5.9, CWE-20).

반복/겹치는 mm_placeholder 메타데이터가 있는 유효한 멀티모달 항목을 /inference/v1/generate 엔드포인트로 재생합니다.

vLLM >= 0.20.0, < 0.30.0 (분리형 멀티모달 경로).

vLLM 0.30.0으로 업그레이드하세요.