Agen AI mencapai dunia luar melalui antarmuka alat Model Context Protocol (MCP), dan izin yang terlalu luas di sana menciptakan agensi yang berlebihan. Penyerang yang dapat mengarahkan agen yang terlalu kuat tersebut dapat mendorongnya untuk keluar dari sandbox pengkodeannya dan menjelajahi file di luar batas yang dimaksudkan, mengubah asisten tepercaya menjadi pijakan penyerang.
Topik glosarium
Agent tool access, excessive agency and escape
Istilah dalam topik ini
Pantau di umpan langsung
Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →