Definisi
Jenis kegagalan kontrol akses di mana sistem seharusnya memungkinkan setiap pengguna hanya melihat catatan tertentu, tetapi bug memungkinkan dokumen yang seharusnya ditolak untuk pengguna tetap mencapai model AI. Model kemudian secara diam-diam membicarakan data yang seharusnya tidak pernah dilihatnya. Ini melanggar janji bahwa AI mengikuti aturan izin yang sama dengan bagian bisnis lainnya.
Mengapa penting
Ini dapat secara diam-diam membocorkan data rahasia ke dalam jawaban AI, menciptakan pelanggaran kepatuhan dan hilangnya kepercayaan pelanggan.