Definisi
Kebocoran data telemetri AI terjadi ketika alat pemantauan dan diagnostik yang digunakan untuk mengamati kinerja sistem AI secara tidak sengaja menangkap dan menyimpan informasi sensitif, seperti prompt pengguna atau data pribadi, dalam log yang tidak diamankan dengan baik. Ini mengubah alat yang dimaksudkan untuk meningkatkan keandalan dan debugging menjadi sumber eksposur data yang tidak disengaja.
Mengapa penting
Perusahaan yang mengadopsi alat observabilitas AI untuk mengelola kinerja mungkin secara tidak sadar menciptakan penyimpanan baru yang besar dari data sensitif yang berada di luar kontrol perlindungan data normal.