정의
AI 에이전트에게 작업에 실제로 필요한 것보다 더 많은 자유, 권한, 또는 도구 접근 권한을 부여하는 것. 프롬프트 인젝션이나 악의적인 도구 출력이 에이전트를 그런 강력한 도구 쪽으로 유도할 수 있기 때문에, 과도한 권한을 부여받은 에이전트는 작은 속임수를 심각한 침해로 전환시킬 수 있다.
왜 중요한가
전문가들은 과도한 권한 부여를 최고 수준의 AI 위험 중 하나로 일관되게 평가하며, 에이전트에게 필요한 최소한의 권한만 부여하는 원칙이 가장 효과적인 예방 통제 수단이다.