정의
사용자 채팅 기록 — 프롬프트와 AI 응답 — 이 이를 볼 권한이 없는 사람들에게 노출되는 문제는 주로 AI 채팅 제품의 접근 통제 부재로 발생한다. 대화 기록은 독점 정보, 금융 정보, 아동 데이터를 포함한 개인 정보를 일상적으로 포함하기 때문에 가장 중요한 자산이다.
왜 중요한가
하나의 AI 컴패니언 플릿 침해로 약 1,300만 건의 대화가 유출되었으며, CRM 채팅 어시스턴트는 낮은 권한의 사용자에게 대화 기록을 노출했다. 조직은 모든 AI 대화 로그를 민감 데이터로 취급해야 한다. 유출이 고객, 사업 부문, 심지어 사용자 연령 경계를 넘어 심각한 법적 책임을 초래할 수 있기 때문이다.