Apa yang terjadi
Federal Trade Commission mengumumkan detail penegakan Take It Down Act, yang mengharuskan situs web dan layanan online menghapus citra intim tanpa persetujuan dan deepfake yang dihasilkan AI dalam 48 jam setelah pemberitahuan korban mulai 19 Mei 2026. FTC menetapkan penalti sipil maksimum sebesar $53.088 per pelanggaran dan mengirimkan surat kepatuhan kepada Amazon, Alphabet, Apple, Meta, Microsoft, TikTok, X, dan platform utama lainnya pada 15 Mei.
Mengapa penting
Ini adalah rezim penegakan federal pertama yang mengikat untuk moderasi konten yang dihasilkan AI dalam skala besar, mengalihkan tanggung jawab platform dari diskresi ke wajib. Platform yang menampilkan konten intim yang dihasilkan AI—baik melalui unggahan pengguna atau layanan AI generatif mereka sendiri seperti Grok milik X—kini menghadapi penalti finansial per-instansi dan penyelidikan FTC. Jendela 48 jam dan struktur penalti per-pelanggaran menciptakan insentif kuat untuk penghapusan berlebihan, yang peringatan kelompok masyarakat sipil dapat dieksploitasi untuk penyensoran pidato yang sah.
Tindakan yang diperlukan
Tim keamanan AI di platform yang tercakup harus mengaudit alur kerja moderasi konten untuk citra intim tanpa persetujuan dan deepfake, memverifikasi bahwa mekanisme pelaporan dapat diakses oleh non-pemegang akun, menerapkan teknologi hashing untuk mencegah unggahan ulang, dan mendokumentasikan prosedur kepatuhan sebelum tanggal penegakan 19 Mei. Tim hukum dan kebijakan harus meninjau apakah kebijakan konten AI yang ada memenuhi persyaratan pemberitahuan yang jelas dan mencolok dari FTC.