何が起きたか
中国の国家インターネット情報弁公室（CAC）は、「清朗・AIアプリケーションの秩序是正」キャンペーンの第2段階を積極的に執行しており、AIシステムのコンプライアンス（届出、コンテンツフィルタリング、訓練データのセキュリティ）から、AI生成コンテンツのエコシステムへと焦点を移している。今週引用された9月の数字によると、第2段階では5,610万件以上の違法・不適合情報が削除され、49,000以上のアカウントが処分され、2,400以上のウェブサイト・アプリケーションが制裁を受けた（第1段階では14,000以上の不適合AI製品と26,000のアカウント）。AI生成の虚偽情報、デジタルなりすまし・フェイススワップの悪用、未成年者に害を及ぼすAIコンテンツ、AI「デジタル残渣（スウィル）」など、7つの悪用カテゴリが対象となっている。
なぜ重要か
このキャンペーンは、中国のAI規制が原則から、生成AIコンテンツがどのように生成・配布されるかに対する積極的かつ執行可能なターゲティングへと移行していることを示している。中国で生成AI（デジタルヒューマン／アバターやAIコンテンツツールを含む）を展開するブランド、プラットフォーム、AI開発者は、削除、アカウント、ウェブサイトの執行リスクに直面しており、AI生成コンテンツの識別、本人認証、未成年者保護対策を確実にする必要がある。
必要な対応
中国で事業を展開するAI事業者は、AIコンテンツのラベリング／コンプライアンス、合成アバターと音声クローニングの認証、未成年者保護のためのコンテンツフィルタリングを監査し、7つの対象悪用カテゴリに対するCACの執行を監視すべきである。