Concept  ·  Glosarium

AI inference serving infrastructure

Server dan perangkat lunak (seperti vLLM, SGLang, atau GPUStack) yang menghosting model AI terlatih dan menjalankannya untuk pengguna sesuai permintaan. Jika penyerang berhasil membobol lapisan ini, mereka dapat menjalankan kode mereka sendiri, membaca data penyewa lain, atau mematikan layanan. Ini adalah padanan AI dari pusat data — tempat model benar-benar dieksekusi.
Di sinilah model nyata berjalan, sehingga intrusi di sini sering kali paling merusak dan paling sulit dideteksi, dan platform-platform ini kini muncul dalam daftar 'eksploitasi yang dikenal' di tingkat nasional.
CISA Known Exploited Vulnerabilities (KEV) CatalogCLOUD SECURITY ALLIANCE GPUStack CVE advisory
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →