Definisi
Kumpulan instruksi tersembunyi yang dimuat organisasi ke dalam sistem AI — 'system prompt'-nya — menentukan persona AI, aturan, konteks rahasia, dan logika bisnis. Kebocoran system prompt terjadi ketika penyerang membujuk atau salah mengonfigurasi AI untuk mengungkapkan instruksi tersebut, mengekspos alur kerja kepemilikan, referensi data internal, petunjuk bypass keamanan, atau informasi kompetitif.
Mengapa penting
System prompt sering kali berisi informasi yang rahasia bagi bisnis yang diasumsikan organisasi tersembunyi dari pengguna akhir; prompt yang bocor dapat mengungkapkan kontrol keamanan, memungkinkan serangan yang ditargetkan, atau mengekspos kekayaan intelektual dan proses kepatuhan. Cacat dalam asisten pengodean AI GitLab mengungkapkan tepat data sensitif jenis ini.