定義
AIシステムが自信を持って事実と異なることを述べる場合—存在しない名前、引用、法的事件、統計、またはその他の詳細を作り上げる場合。これはバグではなく、現在のAI言語モデルがどのように機能するかの構造的な特性です。彼らはもっともらしく聞こえるテキストを予測します。必ずしも真実のテキストではなく。
なぜ重要か
ハルシネーションは既に実際の法的および評判上の害をもたらしています—裁判所はAIが作り上げた判例引用を提出した弁護士に制裁を加えています。複数の管轄区域の規制当局は現在、特に高リスクの決定について、AI精度と開示に関する義務を形式化しています。