정의
단순히 질문에 답하는 것이 아니라 세계에서 행동을 취하는 AI 시스템 — 웹사이트 탐색, 코드 작성 및 실행, 이메일 전송, 외부 서비스 호출 — 종종 각 단계에서 인간의 승인이 거의 없거나 전혀 없는 일련의 단계로 수행됩니다. 단순한 챗봇과 달리, 에이전트는 어떤 단계를 취할지 스스로 결정함으로써 목표를 추구합니다.
왜 중요한가
AI 에이전트가 더 자율적으로 행동할수록, 조작되거나 손상되거나 단순히 잘못된 경우 잠재적 피해가 더 커집니다. 비즈니스 시스템에 대한 액세스 권한으로 운영되는 에이전트는 기계 속도로 데이터 삭제, 구매 수행 또는 비밀 유출과 같은 실제 피해를 야기할 수 있습니다.