정의
AI 텔레메트리 데이터 유출은 AI 시스템의 성능을 모니터링하고 진단하는 데 사용되는 도구들이 사용자 프롬프트나 개인 데이터와 같은 민감한 정보를 실수로 캡처하여 제대로 보안되지 않은 로그에 저장할 때 발생합니다. 이는 신뢰성 개선 및 디버깅을 위해 고안된 도구를 의도하지 않은 데이터 유출 원천으로 변모시킵니다.
왜 중요한가
성능 관리를 위해 AI 관찰 도구를 채택하는 회사들은 일반적인 데이터 보호 제어 범위 밖에 있는 대량의 민감한 데이터 저장소를 무심코 만들어내고 있을 수 있습니다.