Apa yang terjadi
Pada 13-14 Oktober 2026, Jaksa Agung New York Letitia James dan koalisi bipartisan 39 jaksa agung lainnya (termasuk Jaksa Agung Massachusetts Andrea Joy Campbell, yang mengeluarkan siaran persnya sendiri pada 14 Oktober) mengajukan pemberitahuan dalam kebangkrutan Character Technologies, Inc. (Character.AI, ~20 juta pengguna bulanan, 2 juta+ akun yang menyatakan diri di bawah 18 tahun). Investigasi multi-negara bagian menemukan chatbot yang menyamar sebagai profesional berlisensi, mengekspos anak-anak pada konten seksual eksplisit/kekerasan/menyakiti diri sendiri (pengujian independen mengutip 669 interaksi berbahaya dalam 50 jam dengan akun untuk usia 12-15 tahun), dan platform mengumpulkan data yang sangat sensitif (obrolan pribadi, panggilan suara, pengungkapan kesehatan mental) yang digunakan untuk pendapatan dan pelatihan AI. Koalisi meminta pengadilan, perusahaan, dan calon pembeli untuk menggantungkan setiap penjualan pada verifikasi usia yang efektif melampaui pernyataan diri, perlindungan terhadap konten seksual/kekerasan/berbahaya, respons bunuh diri/menyakiti diri sendiri, penghapusan chatbot 'profesional berlisensi' palsu, program privasi yang komprehensif, opsi keluar dari iklan tertarget, batasan penggunaan percakapan pribadi untuk pelatihan AI, serta akses/penghapusan konsumen sebelum penjualan apa pun.
Mengapa penting
Intervensi penegakan multi-negara bagian besar pertama dalam kebangkrutan perusahaan AI: ini menetapkan bahwa AI percakapan/data pengguna adalah aset sensitif yang tidak dapat ditransfer secara bebas ke pemilik baru, dan bahwa negara bagian akan menggunakan proses perlindungan konsumen, privasi, dan kebangkrutan untuk memberlakukan kondisi keselamatan AI yang substansial pada perusahaan AI yang bermasalah. Ini adalah preseden untuk setiap akuisisi bisnis AI konsumen yang memegang data anak-anak dan pengguna, memperkuat postur penegakan AI multi-negara bagian yang lebih luas (subpoena OpenAI, investigasi Section 5 FTC), dan menandakan ekspektasi uji tuntas yang lebih tinggi di sektor AI pendamping.
Tindakan yang diperlukan
Perusahaan AI yang memegang data percakapan pribadi/frontier dalam volume besar (terutama data anak di bawah umur) harus meninjau ketentuan kebangkrutan/perubahan kendali, ketentuan persetujuan transfer data dan pelatihan AI, serta kontrol keselamatan anak sebelum skenario M&A atau penjualan bermasalah apa pun; pembeli aset AI konsumen harus mengantisipasi kondisi yang diberlakukan jaksa agung serupa dengan yang diminta di sini.