AI生成的语音、图像和文本使攻击者能够冒充真实人物和品牌实施欺诈，包括语音钓鱼和品牌冒充。同一波AI内容也引发了并行的问题：当聊天机器人的输出造成伤害时，谁应承担责任。这两种趋势汇聚于一个需求：验证AI生成内容的来源，并为AI输出明确分配责任。