定義
AI テレメトリデータの漏洩は、AI システムのパフォーマンスを監視するために使用される監視および診断ツールが、ユーザープロンプトや個人データなどの機密情報を適切に保護されていないログに誤ってキャプチャして保存する場合に発生します。これにより、信頼性とデバッグを改善するためのツールが、意図しないデータ露出の源に変わります。
なぜ重要か
AI 可観測性ツールを採用してパフォーマンスを管理する企業は、通常のデータ保護制御の対象外となる機密データの大規模な新しいストレージを無意識のうちに作成している可能性があります。