Apa yang terjadi
Pada 11 Juni 2026, Kantor Komisioner Privasi Kanada (OPC) menerbitkan Temuan PIPEDA #2026-004. OPC menemukan bahwa X Corp. (operator platform X) dan X.AI LLC (pengembang chatbot Grok) melanggar PIPEDA dengan gagal memperoleh persetujuan yang sah dari individu yang informasi pribadi mereka dikumpulkan, digunakan, dan diungkapkan untuk membuat deepfake yang eksplisit dan terseksualkan melalui layanan pembuatan gambar Grok. Investigasi yang diinisiasi Komisioner diluncurkan pada 15 Januari 2026. OPC menemukan bahwa tujuannya — memungkinkan pembuatan deepfake yang terseksualkan — tidak akan dianggap tepat oleh orang yang wajar, terlepas dari persetujuan. Selama investigasi, X dan xAI memperkenalkan penjaga keamanan baru untuk mengurangi risiko penyalahgunaan deepfake dan penyaringan proaktif untuk mendeteksi/menghapus konten berbahaya. OPC akan terus memantau implementasi.
Mengapa penting
Ini adalah temuan penegakan privasi Kanada utama pertama yang secara langsung menargetkan kemampuan pembuatan gambar AI. Hal ini menetapkan bahwa menurut PIPEDA: (1) persetujuan tidak dapat melegalkan pengumpulan/penggunaan data pribadi untuk menghasilkan deepfake yang terseksualkan; (2) uji kesesuaian 'orang yang wajar' berlaku untuk kasus penggunaan AI itu sendiri, bukan hanya mekanika persetujuan. Ini menciptakan preseden kepatuhan yang mengikat untuk semua layanan pembuatan gambar AI yang beroperasi di Kanada, dan menunjukkan bagaimana komisioner privasi secara global dapat mendekati konten intim yang dihasilkan AI.
Tindakan yang diperlukan
Operator layanan pembuatan gambar/video AI dengan pengguna Kanada harus: (1) menilai apakah layanan mereka dapat menghasilkan konten intim atau terseksualkan; (2) menerapkan penjaga keamanan teknis untuk mencegah pembuatan tersebut; (3) meninjau kerangka kerja persetujuan — persetujuan saja tidak cukup jika penggunaan secara inheren tidak tepat menurut PIPEDA. Menerapkan sistem deteksi dan penghapusan proaktif untuk konten yang dihasilkan AI yang berbahaya.