Definisi
Kondisi risiko yang diidentifikasi oleh Cloud Security Alliance di mana agen AI secara bersamaan memiliki tiga sifat berbahaya: akses ke data sensitif, kemampuan untuk menerima instruksi dari sumber eksternal yang tidak terpercaya, dan kemampuan untuk mengambil tindakan di dunia luar (misalnya mengirim email, memanggil API). Agen apa pun dengan ketiga kondisi ini sangat rentan untuk dimanipulasi menjadi menyebabkan kerusakan serius.
Mengapa penting
Penelitian menemukan bahwa 98% agen AI produksi sudah memiliki ketiga kondisi tersebut, namun hanya 11% yang memiliki pertahanan yang memadai. Ini berarti mayoritas besar agen perusahaan yang digunakan secara struktur hanya tinggal satu masukan berbahaya yang dirancang jahat saja dari insiden yang signifikan.