指南  ·  2026-07-12

英国DSIT/兰卡斯特大学:AI安全主题审查和差距分析

指南Medium 影响Global
2026年7月10日(通过页面json-ld datePublished元数据确认),DSIT发布了由兰卡斯特大学委托编写的报告:采用PRISMA方法对五年(2021年1月–2026年1月)的同行评审AI安全研究进行的主题审查和差距分析,筛选了9,109份出版物,并将研究结果分为12个主题(训练时安全、数据/隐私风险、对齐、供应链漏洞、推理时安全、生命周期末期/处置风险、系统基础设施安全等)。该审查明确指出智能体AI安全研究存在重大差距,包括智能体本身的安全性和它们用于与环境交互的工具的安全性。
这是一份由国家机构委托的证据库,旨在引导英国AI安全研究资金投向和未来指南/标准优先事项(直接补充NCSC的运营工作,如网络防护)。它正式将智能体AI安全标记为研究不足的差距领域,这可能会塑造即将推出的DSIT/NCSC指南和资金申请。
安全研究人员和标准机构应审查已识别的12个主题和差距领域,以调整未来研究和控制目录开发;从业人员应注意智能体AI安全被标记为需要新控制措施的证据差距。
GOV.UK - Thematic review and gap analysis on AI security
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →