정의
학습된 AI 모델을 호스팅하고 사용자 요청에 따라 실행하는 서버 및 소프트웨어(vLLM, SGLang 또는 GPUStack 등). 공격자가 이 계층을 침해하면 자체 코드를 실행하거나, 다른 테넌트의 데이터를 읽거나, 서비스를 중단시킬 수 있습니다. 이는 데이터 센터에 해당하는 AI 환경으로, 모델이 실제로 실행되는 곳입니다.
왜 중요한가
실제 모델이 실행되는 곳이므로, 여기서의 침입은 종종 가장 피해가 크고 탐지하기 어렵습니다. 이러한 플랫폼은 현재 국가 차원의 '알려진 악용 목록'에 등장하고 있습니다.