定義
人工知能によって生成され、実在する人物を現実的に模倣したり、実際には起こらなかった出来事を捏造したりする画像、ビデオ、音声、またはテキスト。「ディープフェイク」は元々、ビデオ内のAIで入れ替わった顔を指していましたが、現在では声の複製や特定の人物を模倣するために書かれたテキストを含む、説得力のある偽のAI生成メディア全般をカバーしています。
なぜ重要か
合成メディアは詐欺、非同意の親密な画像、および企業の情報操作のために悪用されています。複数の管轄区域の規制当局（EU、カナダ、米国）は、合成コンテンツの開示を特に要求する法律を制定したか、制定中であるか、または特定のAI生成メディアを完全に禁止しています。