Definisi
Singkatan dari 'Large Language Model Operations' — sebuah platform perangkat lunak yang digunakan organisasi untuk membangun, menerapkan, memantau, dan mengelola aplikasi dan agen bertenaga AI dalam produksi. Sama seperti platform 'DevOps' mengelola pipeline pengembangan perangkat lunak, platform LLMOps (seperti Dify, Langflow, atau ToolJet) mengelola siklus hidup lengkap produk AI, termasuk menghubungkan model ke data, alat, dan pengguna.
Mengapa penting
Platform LLMOps berada di pusat seluruh aset AI organisasi, menghubungkan model ke database sensitif, API, dan data pengguna — menjadikan mereka target bernilai tinggi. Beberapa kerentanan kritis ditemukan secara bersamaan di seluruh platform LLMOps yang paling banyak digunakan dalam satu jendela pelaporan.