무슨 일이 있었나
RAND는 범죄 사법 위원회의 인공지능 태스크포스와 협력하여 경찰, 법원, 교정, 지역사회 감시 전반에 걸친 AI 응용 프로그램의 포괄적인 분류법을 발표했습니다. 이 보고서는 중요한 공백을 다룹니다: 안면 인식 및 자동화된 경찰 보고서 작성부터 사건 일정 관리, 분류, 폭력 예측에 이르기까지 범죄 사법 분야의 AI 도구들은 종종 단일 기술 범주인 것처럼 논의되고 관리되지만, 실제로는 기술적 정교함, 의도된 용도, 인간의 판단에 미치는 영향 측면에서 크게 다릅니다. 분류법은 응용 프로그램을 지원하는 기능과 의사 결정 지점별로 그룹화하며, 유사한 기술이 다양한 환경에서 어떻게 다른 목적으로 사용될 수 있는지를 조명하고 사법 시스템에서 AI를 평가, 구매, 구현할 책임이 있는 이해관계자들을 위한 구조화된 프레임워크를 제공합니다.
왜 중요한가
범죄 사법 AI 의사 결정은 규모에 따라 공공 안전과 개인 권리에 영향을 미칩니다. 이 분류법은 고위험 응용 프로그램을 낮은 위험의 응용 프로그램과 구별하기 위한 첫 번째 구조화된 프레임워크를 제공하여, 정책 입안자와 시스템 리더들이 저위험 도구를 과도하게 제한하거나 고위험 배포를 과소하게 관리하는 획일적인 거버넌스 접근법을 적용하기보다는, 특정 AI 도구가 적절하고 효과적이며 투명하고 공평한지를 평가할 수 있도록 합니다.
필요한 조치
주(State) 사법 시스템 CIO 및 정책 담당 관계자들은 Q3까지 현재 및 계획 중인 AI 배포를 분류법에 맞춰 매핑하여 거버넌스 격차를 파악하고 감시 자원의 우선순위를 정해야 합니다.