Attack  ·  用語集

AI conversation transcript leakage

ユーザーのチャット履歴——プロンプトとAIの応答——が、本来見るべきでない人々に露出すること。これは多くの場合、AIチャット製品のアクセス制御の欠如によって発生する。トランスクリプトは、企業秘密、財務情報、または個人情報(子供のデータを含む)を日常的に含むため、最重要機密データである。
あるAIコンパニオンのフリート侵害では、約1300万件の会話が漏洩し、CRMチャットアシスタントでは、低権限ユーザーにトランスクリプトが漏洩した。組織は、すべてのAI会話ログを機密データとして扱うべきである。漏洩は、顧客、事業部門、さらにはユーザーの年齢層の境界を越え、重大な法的責任を引き起こす可能性があるからだ。
OWASP GenAI Security Project — LLM Top 10
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →