Apa yang terjadi
Pada 8 Oktober 2026, Autoriteit Persoonsgegevens (AP) Belanda mengumumkan denda administratif sebesar EUR 824.990.000 terhadap Uber karena melanggar Pasal 22 GDPR (larangan pengambilan keputusan individual otomatis sepenuhnya) dan Pasal 13 GDPR (kegagalan memberi tahu pengemudi tentang pembuatan profil). Kasus ini berasal dari keluhan 171 pengemudi Uber asal Prancis yang diajukan melalui CNIL dan ditangani oleh AP berdasarkan prosedur One-Stop-Shop GDPR. AP menemukan bahwa Uber secara otomatis menonaktifkan akun pengemudi atas dugaan kecurangan atau ulasan pelanggan yang terus-menerus rendah, yang menyebabkan hilangnya pendapatan selama penonaktifan, antara tahun 2018 dan 2022. Uber telah menghentikan pelanggaran tersebut dan telah mengajukan banding; belum ada keputusan pengadilan final.
Mengapa penting
Ini adalah salah satu denda GDPR terbesar yang pernah ada dan secara langsung menyasar pengambilan keputusan algoritmik (berbasis AI), bukan sekadar penanganan data — menandakan bahwa sistem manajemen akun/pekerja otomatis yang membuat keputusan berdampak signifikan tanpa keterlibatan manusia yang bermakna merupakan pengambilan keputusan otomatis sepenuhnya yang melanggar hukum. Hal ini secara material meningkatkan eksposur tanggung jawab bagi siapa pun yang menggunakan agen AI/otomatisasi untuk membuat keputusan yang memengaruhi individu di UE.
Tindakan yang diperlukan
Audit setiap AI/otomatisasi yang digunakan untuk mengambil keputusan dengan efek hukum atau efek signifikan serupa pada individu (penonaktifan akun, sanksi, penilaian skor, pemecatan, penanda penipuan); pastikan adanya tinjauan/kontribusi manusia yang bermakna dan patuhi kewajiban transparansi Pasal 13-15; dokumentasikan dasar hukum sebelum menerapkan pengambilan keputusan otomatis di UE.