Definisi
Kerentanan keamanan di mana plugin bertenaga AI atau chatbot tidak memeriksa dengan benar siapa yang diizinkan untuk melihat atau melakukan apa. Pengguna dengan hak istimewa rendah—seperti pelanggan dasar—dapat memanfaatkan kerentanan untuk membaca log percakapan pribadi, mengekstrak kunci API yang disimpan, atau memicu tindakan yang seharusnya tidak pernah mereka izinkan untuk lakukan.
Mengapa penting
Satu plugin chatbot yang salah konfigurasi yang dipasang di situs web perusahaan dapat memberikan penyerang kredensial ke seluruh tumpukan AI Anda, termasuk kunci yang memberikan akses penagihan kepada penyedia AI pihak ketiga. Karena plugin ini sering dipasang oleh tim pemasaran atau operasi tanpa tinjauan keamanan, paparan dapat tetap tidak terdeteksi selama berbulan-bulan.