Definisi
Serangan yang menargetkan basis pengetahuan yang dapat dicari (disebut vector store atau vector database) yang mendukung aplikasi AI. Dengan menyisipkan konten yang dirancang khusus ke dalam basis data tersebut, penyerang dapat memanipulasi informasi yang diambil AI dan dengan demikian mengontrol atau merusak jawaban AI. Ini analog dengan merusak perpustakaan referensi yang dikonsultasikan AI sebelum berbicara.
Mengapa penting
Vector store adalah tulang punggung pengetahuan yang berwenang dari sebagian besar asisten AI perusahaan. Mengkompromikan satu dapat secara diam-diam meracuni setiap permintaan yang ditangani AI, mempengaruhi keputusan bisnis, dokumen kepatuhan, atau interaksi pelanggan dalam skala besar.