Definisi
Sebuah teknik keamanan yang mempelajari pola perilaku normal dari agen AI — tools apa yang mereka panggil, data apa yang mereka akses, seberapa sering mereka bertindak — dan mengeluarkan alert ketika agen menyimpang secara signifikan dari baseline-nya, menunjukkan bahwa agen tersebut mungkin telah dikompromikan atau diretas oleh serangan prompt injection. Tools user behaviour analytics (UEBA) tradisional dibangun untuk memantau login manusia dan gagal mendeteksi anomali dalam tindakan otomatis dengan frekuensi tinggi yang khas dari agen AI. AI agent behaviour analytics yang dirancang khusus mengatasi blind spot ini dengan memperlakukan setiap agen sebagai identitas yang berbeda dengan fingerprint perilakunya sendiri.
Mengapa penting
Tanpa monitoring perilaku khusus AI, agen yang diretas dapat beroperasi di dalam jaringan perusahaan untuk periode yang panjang menggunakan kredensial yang sah, melakukan tindakan yang terlihat rutin bagi tools yang dirancang untuk memantau aktivitas manusia.