指南  ·  2026-10-06

NCSC建议敦促组织在智能体AI中保持人类主导

指南Medium 影响United Kingdom
英国国家网络安全中心发布了面向设计和部署智能体AI系统的组织的建议,敦促“在授予智能体AI任何级别的自主权时,适当的人类监督至关重要”(引用NCSC的John Leonard)。报告窗口内的报道描述了该机构架构立场:限定/遏制智能体(相称的自主权)、将其置于沙箱中、不可变地记录日志、指定对智能体活动负责的个人、使用“裁判”模型/智能体进行监督,并在智能体采用率上升时保持紧急停止机制。NCSC主页面在本次研究过程中无法直接获取(搜索索引返回的是博客摘录而非指南页面),因此确切发布日期未完全确认——新闻报道日期在窗口内(约2026年10月1日)。
NCSC是英国权威网络安全机构。关于智能体AI责任制的官方国家指南(指定个人、人类监督、紧急停止、爆炸半径限定)为部署智能体的英国组织设定了预期,并补充了其早期的影子AI和智能体防御输出,定义了部署将被评判的人类负责规范。
设计或部署智能体AI系统的组织应将其部署映射到NCSC推荐的控制项:有界自主权、沙箱化、不可变日志、指定的责任个人、基于裁判的监督以及紧急停止机制。
Computing.co.uk: NCSC urges firms to keep humans in charge as agentic AI adoption risestechUK: Why agentic AI is rewriting the rules of cyber defence (citing NCSC)
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →