事件经过
2026年9月8日,英国科学、创新和技术部(DSIT)发布了《AI风险管理工具包》,为跨政府和行业的AI产品的设计、采购、运营和交付提供了结构化指导。该工具包要求团队设定风险承受度、获得董事会级别的批准、指定风险所有者、记录处理策略并持续监控风险。安全示例明确涵盖数据中毒、数据泄露、扰动攻击和提示注入。
影响分析
这是英国政府权威指导,对公共部门AI采购和部署具有真实的业务权重,明确将生命周期风险管理控制扩展到代理型和工具使用型AI系统——这是一个可能被英国监管机构参考并作为公共部门AI风险评估事实标准采纳的治理模板。
建议行动
向英国政府部署AI产品的公共部门机构和供应商应将其系统与工具包的所有权、风险承受度和持续监控框架进行映射。