Apa yang terjadi
Otoritas perlindungan data Italia (Garante per la protezione dei dati personali) mengenakan denda €158.000 kepada Character Technologies Inc., pemilik berbasis AS dari platform pendamping AI generatif Character.AI, atas pelanggaran GDPR berganda. Garante menemukan informasi yang tidak memadai diberikan kepada pengguna tentang pemrosesan data pribadi, perlindungan verifikasi usia yang tidak memadai untuk pengguna di bawah umur (termasuk kegagalan dalam periode 'cooling-off' yang mencegah upaya pendaftaran ulang oleh pengguna di bawah umur yang diblokir), penyelesaian terlambat dari Penilaian Dampak Perlindungan Data (DPIA), dan penundaan dalam menunjuk perwakilan UE. Perintah tersebut mewajibkan Character Technologies untuk memperbaiki sistem verifikasi usia, memperkuat mekanisme anti-pendaftaran ulang untuk pengguna di bawah umur yang diblokir, dan mengatur profil pengguna di bawah umur menjadi pribadi secara default, dengan tenggat waktu kepatuhan (dilaporkan dalam 120 hari).
Mengapa penting
Ini adalah tindakan penegakan GDPR konkret yang secara khusus menargetkan praktik keselamatan anak dan pemrosesan data dari layanan pendamping/chatbot AI generatif, melanjutkan catatan Garante sebagai salah satu regulator AI paling aktif di Eropa (sebelumnya melarang ChatGPT pada tahun 2023). Ini menunjukkan bahwa otoritas perlindungan data UE secara aktif menegakkan kewajiban verifikasi usia dan DPIA terhadap aplikasi pendamping AI, vektor penegakan yang terus berkembang yang berbeda dari EU AI Act itu sendiri, dengan implikasi langsung bagi layanan AI generatif apa pun dengan pengguna UE, terutama yang dapat diakses oleh pengguna di bawah umur.
Tindakan yang diperlukan
Penyedia pendamping AI/chatbot yang beroperasi di UE harus mengaudit efektivitas verifikasi usia, memastikan DPIA diselesaikan sebelum pemrosesan yang melibatkan pengguna di bawah umur, menunjuk perwakilan UE jika diperlukan berdasarkan Pasal GDPR 27, dan mengatur profil default-pribadi untuk pengguna di bawah umur. Character Technologies harus menerapkan perbaikan yang diperintahkan Garante dalam tenggat waktu kepatuhan.