정의
AI 시스템이 존재하지 않는 이름, 인용, 법적 사건, 통계 또는 기타 세부 사항을 만들어내며 무언가를 확신 있게 잘못 진술할 때 발생합니다. 이는 결함이 아니라 현재 AI 언어 모델이 작동하는 방식의 구조적 특성입니다. 즉, 반드시 참인 텍스트가 아닌 그럴듯하게 들리는 텍스트를 예측합니다.
왜 중요한가
환각은 이미 실질적인 법적 피해와 평판 손상을 초래했습니다. 법원은 AI가 만들어낸 판례 인용을 제출한 변호사들에게 제재를 가했습니다. 여러 관할권의 규제 기관들은 이제 특히 고위험 결정에 대해 AI 정확성 및 공시에 관한 의무를 공식화하고 있습니다.