Agent tool access, excessive agency and escape

AI 에이전트는 MCP(Model Context Protocol) 도구 인터페이스를 통해 외부 세계에 도달하며, 여기서 지나치게 광범위한 권한은 과도한 행동 자유도(agency)를 초래합니다. 이러한 과도한 권한을 가진 에이전트를 조종할 수 있는 공격자는 에이전트를 압박하여 코딩 샌드박스를 벗어나 의도된 경계를 넘어 파일을 탐색하게 만들 수 있으며, 이로써 신뢰받는 도우미가 공격자의 발판으로 변모합니다.