정의
AI 기반 플러그인 또는 챗봇이 누가 무엇을 볼 수 있고 할 수 있는지를 제대로 확인하지 않는 보안 결함입니다. 기본 구독자와 같은 낮은 권한의 사용자가 이 결함을 악용하여 비공개 대화 로그를 읽거나, 저장된 API 키를 추출하거나, 수행할 권한이 없어야 할 작업을 실행할 수 있습니다.
왜 중요한가
회사 웹사이트에 설치된 단일 설정 오류 챗봇 플러그인이 공격자에게 타사 AI 제공자에 대한 청구 액세스 권한을 부여하는 키를 포함한 전체 AI 스택의 자격 증명을 제공할 수 있습니다. 이러한 플러그인은 보안 검토 없이 마케팅 또는 운영 팀에 의해 설치되는 경우가 많아 노출이 몇 개월 동안 감지되지 않을 수 있습니다.