정의
소프트웨어(AI 포함)가 계정 정지나 대출 거절 등 개인에게 중대한 영향을 미치는 결정을 내리거나 이에 크게 영향을 미치되, 의미 있는 인간의 검토가 거의 또는 전혀 없는 모든 프로세스. GDPR과 같은 데이터 보호법은 이러한 종류의 결정에 대한 개인의 구체적인 권리를 보장하며, 여기에는 설명을 받을 권리와 인간의 검토를 받을 권리가 포함됩니다.
왜 중요한가
운전자의 계정을 비활성화하기 위해 자동화된 시스템을 사용한 혐의로 Uber에 부과한 €825백만의 벌금은 AI 기반 결정이 적절한 인간의 감시 없이 사람들의 생계에 영향을 미칠 때 규제 당국이 이제 역사적 규모의 벌금을 부과할 의사가 있음을 보여줍니다.