事件经过
RAND与Council on Criminal Justice Task Force on Artificial Intelligence合作,发布了一份全面的AI应用分类法,涵盖警务、法院、惩戒和社区监督各个领域。该报告解决了一个关键缺口:刑事司法中的AI工具——从面部识别和自动警察报告撰写到案件排期、分类和暴力预测——经常被讨论和管理时仿佛它们是单一类别的技术,而实际上它们在技术复杂性、预期用途和对人类判断的影响方面差异很大。该分类法按照应用程序支持的功能和决策点进行分组,阐明了类似技术如何在不同环境中服务于不同目的,并为负责评估、采购和在司法系统中实施AI的利益相关者提供了结构化框架。
影响分析
刑事司法AI决策大规模影响公共安全和个人权利。该分类法提供了区分高风险和低风险应用的首个结构化框架,使政策制定者和系统领导者能够评估特定AI工具是否合适、有效、透明和公平——而不是采用一刀切的治理方法,要么过度限制低风险工具,要么对高风险部署治理不足。
建议行动
州司法系统CIO和政策官员应在第三季度之前将其当前和计划的AI部署与该分类法进行对照,以识别治理缺口并优先分配监督资源。