定义 当AI系统自信地陈述某些事实上错误的内容时——编造名字、引用、法律案件、统计数据或其他不存在的细节。这不是故障，而是当前AI语言模型工作方式的结构性特性：它们预测听起来合理的文本，而不一定是真实文本。 影响分析幻觉已经造成了真实的法律和声誉伤害——法院因律师提交AI编造的案例引用而对其进行了制裁。多个司法管辖区的监管机构现在正式化了围绕AI准确性和披露的义务，特别是对于高风险决策。