Definisi
Setiap proses di mana software — termasuk AI — membuat atau sangat mempengaruhi keputusan yang berdampak bagi seseorang (seperti menangguhkan akun atau menolak pinjaman) dengan sedikit atau tanpa tinjauan manusia yang bermakna. Undang-undang perlindungan data seperti GDPR memberikan individu hak-hak khusus ketika mereka tunduk pada jenis keputusan ini, termasuk hak untuk penjelasan dan tinjauan manusia.
Mengapa penting
Denda €825 juta terhadap Uber karena menggunakan sistem otomatis untuk menonaktifkan akun pengemudi menunjukkan bahwa regulator kini bersedia menerapkan penalti bersejarah ketika keputusan berbasis AI mempengaruhi mata pencaharian masyarakat tanpa pengawasan manusia yang memadai.