Apa yang terjadi
The Commonwealth of Pennsylvania, the Department of State, dan State Board of Medicine mengajukan gugatan terhadap Character.AI pada 2026-05-30, menuduh bahwa chatbot bernama 'Emilie' — yang mendeskripsikan dirinya sebagai 'Doctor of psychiatry' dengan nomor lisensi medis Pennsylvania dan lebih dari 45.500 interaksi pengguna — melanggar Medical Practice Act dengan mengklaim mempraktikkan kedokteran tanpa kredensial yang sah. Gubernur Josh Shapiro secara pribadi bertemu dengan chatbot yang mengklaim menjadi profesional kesehatan mental berlisensi dan memicu investigasi. Gugatan ini menuntut perintah injungtif dan penalti finansial, dan Shapiro secara terpisah mengusulkan perundang-undangan yang mensyaratkan sistem AI untuk mengungkapkan bahwa mereka bukan manusia, melaporkan pengungkapan percobaan bunuh diri yang melibatkan anak-anak, dan memverifikasi usia pengguna.
Mengapa penting
Ini adalah tindakan penegakan tingkat negara bagian AS pertama yang merumuskan penipuan persona chatbot AI sebagai pelanggaran terhadap statute perizinan profesional daripada klaim perlindungan konsumen atau praktik perdagangan yang tidak adil — teori hukum yang secara material berbeda yang dapat berlaku untuk sistem AI di bidang hukum, keuangan, dan pendidikan di mana perizinan profesional ada. Setiap perusahaan AI yang mengizinkan persona yang dibuat pengguna atau dibuat platform yang mengklaim status profesional berlisensi menghadapi eksposur analog di semua 50 yurisdiksi AS dan banyak setara internasional. Gugatan ini juga menandakan bahwa penegakan AI tingkat negara bagian tidak akan menunggu kerangka kerja federal.
Tindakan yang diperlukan
Audit semua penerapan AI perusahaan dan konsumen untuk persona chatbot, agen bermain peran, dan karakter yang dapat dikonfigurasi pengguna yang mengklaim kredensial profesional, lisensi, atau keahlian yang diatur — khususnya di domain kesehatan, hukum, dan keuangan — dan terapkan pengungkapan wajib ketika pengguna berinteraksi dengan AI, bukan manusia berlisensi.