Apa yang terjadi
Pada 28 Oktober 2026, Jaksa Agung Florida James Uthmeier mengumumkan tindakan penegakan perdata (bersamaan dengan kasus pidana paralel) terhadap Rengstorff Consulting Ltd, operator platform AI A2E, dengan tuduhan praktik dagang menipu berdasarkan Florida Deceptive and Unfair Trade Practices Act (FDUTPA). Pengaduan tersebut menyatakan aplikasi 'nudification' A2E memungkinkan pengguna mengunggah foto warga Florida yang tidak menyetujui, termasuk anak di bawah umur, untuk menghasilkan penggambaran eksplisit yang realistis, dan menua-dewasakan orang dewasa menjadi kemiripan di bawah umur, sementara ketentuan layanannya secara formal melarang konten tersebut tetapi beroperasi 'tanpa sensor' tanpa verifikasi usia wajib, moderasi konten, atau protokol pelaporan. Negara bagian meminta perintah permanen, restitusi, pengembalian keuntungan, dan penalti perdata hingga $10.000 per pelanggaran.
Mengapa penting
Ini adalah tindakan penegakan negara bagian langsung terhadap platform generasi AI karena memfasilitasi CSAM yang dihasilkan AI dan citra deepfake non-konsensual — garis depan tanggung jawab yang berkembang bagi perusahaan AI generatif. Ini menandakan bahwa Jaksa Agung negara bagian akan memegang operator alat AI bertanggung jawab atas penyalahgunaan hilir bahkan ketika alat tersebut mengklaim melarangnya, memperkuat kebutuhan operasional untuk verifikasi usia, moderasi konten, dan pelaporan penegakan hukum pada platform citra generatif dan pendamping.
Tindakan yang diperlukan
Platform citra generatif/'nudify' dan AI pendamping harus menerapkan verifikasi usia wajib, moderasi konten yang kuat, dan protokol pelaporan konten ilegal, serta meninjau eksposur FDUTPA untuk klaim citra yang dihasilkan AI.