安全部门治理和管理的新兴技术

RAND Europe发布了一份范围界定研究，由英国外交、英联邦及发展办公室委托进行，研究了包括人工智能、生物识别、机器学习和自动决策支持在内的九类新兴技术如何在全球安全部门治理和管理(SSG/M)中被采纳。基于文献综述和对13名从业人员和专家的访谈，该报告发现这些技术可以增强效率和问责制，但引入了"隐私和数据保护问题、算法偏见、决策过程不透明、网络安全漏洞，以及与数据主权和对私人供应商依赖相关的挑战"。报告提出了六项横贯性治理实践，包括从"人工干预循环转向多层次监督以对抗自动化偏见"，以及将内部政策与外部监管和审计相配对。报告特别标出了人工智能辅助的面部识别、自动决策支持和社交媒体监控作为高风险汇聚点，在采购前需要理由说明，在部署后需要独立监督。

部署启用人工智能的监控、身份或决策支持工具的政府和防御/安全机构现在拥有一份具体的治理检查清单——共同设计、分层监督和外部审计——政策负责人可以使用它来评估现有或计划采购是否符合采购前的良好实践标准。

将当前或计划的人工智能/生物识别安全部门部署与RAND的六项治理实践进行对比，并在采购批准前要求独立监督/审计条款。