指南  ·  2026-05-19

英国NCSC和五眼联盟合作伙伴发布关于谨慎采用智能体AI系统的联合指导

指南High 影响Global
英国国家网络安全中心(NCSC)于2026年5月18日发布了一篇题为"在采用智能体AI之前谨慎思考"的博客,总结了与五眼联盟合作伙伴(澳大利亚、加拿大、新西兰、美国)共同撰写的联合指导。完整的指导文件"谨慎采用智能体AI服务"为部署智能体AI系统的组织制定了建议——这些系统能够规划、做出决策、访问数据源、使用工具,并为追求目标而采取自主行动。
这是五眼联盟首个专门针对智能体AI部署风险的协调指导。该指导将智能体AI从研究话题提升为正式的网络安全治理关注点,要求人类问责制、最小权限访问控制、运行时监控以及干预能力。NCSC明确表示:"如果您无法理解、监控或控制智能体的行为,那么它就不适合部署。"对于AI安全从业者而言,这建立了一个基线期望,即智能体系统必须以与特权自动化相同的严格程度进行治理,试点部署应限制在低风险任务中,直到控制措施得到验证。
根据NCSC的控制框架审查任何计划中或现有的智能体AI部署:对智能体访问应用最小权限,在部署前定义人类问责制,实施运行时监控和可解释性机制,并建立干预程序。对于五眼联盟管辖区内的组织或向其提供服务的组织,将此指导视为监管信号——监管机构和采购机构可能会将这些建议作为基线期望采纳。
来源
UK NCSC Blog: Thinking carefully before adopting agentic AIAustralian Cyber Security Centre: Careful adoption of agentic AI services
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →