정의
Cloud Security Alliance에서 식별한 위험 조건으로, AI 에이전트가 동시에 세 가지 위험한 속성을 가지는 경우입니다: 민감한 데이터에 대한 접근, 신뢰할 수 없는 외부 소스로부터 지시를 받을 수 있는 능력, 그리고 외부 세계에서 조치를 취할 수 있는 능력(예: 이메일 전송, API 호출). 이 세 가지 조건을 모두 갖춘 모든 에이전트는 조작되어 심각한 피해를 입힐 수 있도록 조종될 위험이 매우 높습니다.
왜 중요한가
연구 결과에 따르면 프로덕션 AI 에이전트의 98%가 이미 세 가지 조건을 모두 가지고 있지만, 11%만이 적절한 방어를 갖추고 있습니다. 이는 배포된 엔터프라이즈 에이전트의 대다수가 구조적으로 정교하게 만들어진 악성 입력 하나로 인해 심각한 사건이 발생할 수 있는 상태에 있다는 의미입니다.