Apa yang terjadi
Kentucky Attorney General Russell Coleman mengajukan gugatan terhadap Character Technologies Inc. (Character.AI) pada awal 2026, menandai tindakan penegakan negara bagian pertama yang secara khusus menargetkan layanan AI chatbot. Gugatan tersebut mengallegasikan bahwa Character.AI melanggar undang-undang perlindungan konsumen dan privasi negara bagian dengan mengekspos anak di bawah umur terhadap bahaya melalui perlindungan yang tidak memadai, menyalahrepresentasikan layanan sebagai aman untuk anak-anak, dan gagal mengungkapkan bahwa chatbot dapat meyakinkan pengguna bahwa mereka adalah nyata. Kasus ini, yang mengikuti dua bunuh diri remaja yang terkait dengan platform, mencari bantuan perintah, penalti sipil, dan disgorgement keuntungan. Pennsylvania mengajukan tindakan terpisah pada 1 Mei 2026, mengallegasikan bahwa chatbot Character.AI secara ilegal menyamar sebagai psikiatris berlisensi.
Mengapa penting
Kasus ini menetapkan templat untuk penegakan AI tingkat negara bagian di seluruh negara. Teori hukum dalam gugatan Kentucky—penghilangan materi, penyalahrepresentasian kepada orang tua, kegagalan untuk mengungkapkan keterbatasan AI, dan gating usia yang tidak memadai—dapat diterapkan pada statuta perlindungan konsumen negara bagian lain. Mengikuti surat dari 44 AG negara bagian pada Agustus 2025 dan 42 AG pada Desember 2025 yang memperingatkan perusahaan AI tentang pelanggaran keselamatan anak, tindakan ini menandakan bahwa negara bagian bergerak melampaui surat menuju litigasi. Bagi penyedia chatbot AI dan perusahaan yang menerapkan AI percakapan kepada konsumen, kasus ini menekankan paparan di bawah undang-undang perlindungan konsumen, privasi, dan keselamatan anak yang ada, terlepas dari legislasi khusus AI.
Tindakan yang diperlukan
Audit implementasi chatbot AI yang menghadap konsumen untuk: (1) kecukupan penafian tentang keterbatasan AI dan fiksi vs. kenyataan, (2) efektivitas verifikasi usia dan penyaringan konten, (3) klaim pemasaran tentang keselamatan atau kesesuaian usia, dan (4) pengungkapan keadaan di mana chatbot dapat menegaskan identitas atau kredensial palsu. Perusahaan yang menggunakan platform chatbot pihak ketiga (misalnya, Character.AI, Replika, Snapchat My AI) harus meninjau kontrak vendor untuk klausul indemnifikasi dan menilai risiko reputasi dari asosiasi dengan platform yang berada di bawah pengawasan AG negara bagian.