Apa yang terjadi
Endpoint structured-decisions meneruskan chat_template_kwargs tingkat permintaan ke renderer HuggingFace bersama tanpa memanggil gerbang validasi kepercayaan yang digunakan jalur chat dan responses. Pelapor (peneliti BAAI) menunjukkan bahwa pemanggil API dapat menyediakan template chat bahkan ketika server melarang template yang disediakan permintaan; vLLM menilainya CVSS 6.5 dan memperbaikinya di 0.34.0.
Mengapa penting
Dalam deployment vLLM, pemanggil API yang berwenang tetapi tidak tepercaya dapat menimpa prompt sistem yang ditetapkan operator dan menyuntikkan token khusus / batas giliran, memungkinkan manipulasi model bergaya prompt injection yang seharusnya diblokir oleh validasi tingkat pesan dan gerbang kepercayaan.
Vektor serangan
Pemanggil dengan kunci API valid mencapai POST /v1/systemone (jalur structured-decisions) dan menyediakan chat_template_kwargs tingkat permintaan; karena jalur renderer preprocess_chat() bersama tidak memanggil validate_chat_template(), template tersebut melewati gerbang --trust-request-chat-template, memungkinkan pemanggil mengganti blok sistem yang ditetapkan operator dan menyuntikkan token khusus atau batas giliran yang akan ditolak oleh validasi tingkat pesan.
Sistem yang terdampak
vLLM (pip) >=0.32.0rc0 <=0.33.0
Mitigasi
Tingkatkan ke vLLM 0.34.0 atau yang lebih baru (menerapkan pemeriksaan kepercayaan template ke permintaan structured-decisions, PR #64503). Dirujuk oleh GHSA-xgh8-qwjh-q853; tidak ada CVE yang ditetapkan.