Saat agen AI mendapatkan kredensial mereka sendiri (identitas non-manusia), penyerang dapat memalsukan agen palsu atau membajak agen 'zombie' yang ditinggalkan untuk menyamar sebagai sistem terpercaya. Kelemahan identitas ini adalah batu loncatan kunci dalam rantai serangan otonom di mana sistem AI bertindak atas inisiatif mereka sendiri untuk menyebabkan kerusakan tanpa pengawasan manusia.
Topik glosarium
AI agent identity and autonomy risks
Istilah dalam topik ini
Pantau di umpan langsung
Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →