事件经过
2026年10月20日,英国国家网络安全中心(NCSC)重新编写了其研究问题手册,新增了“人工智能网络安全”章节,提出了三大广泛主题下的七个研究问题领域:利用人工智能增强网络防御;人工智能系统本身的安全与保障;以及使用数据驱动方法在规模上提升网络韧性。一个反复出现的主题是人机协作——自主性在哪里提供真正的价值,人类判断在哪里仍然至关重要,以及如何在机器速度下维持有意义的监督。
影响分析
这是来自领先国家网络安全机构关于最关键人工智能安全研究缺口所在的权威指引,并明确指出,支撑当今漏洞管理、事件响应和风险管理的许多假设早于生成式及代理式人工智能,需要不断发展。该内容直接输入NCSC指南和“网络盾牌”计划,对任何在英国优先安排人工智能安全研究或工程投资的人来说都是一个有用的信号。它框定的是研究问题而非规定控制措施,因此属于指导性内容而非规范性框架。
建议行动
人工智能安全研究人员、供应商和英国关键基础设施运营商应审查这七个问题领域及NCSC对反馈的呼吁,并将研究/路线图优先级与已识别的防御、保障、韧性和人类监督缺口保持一致。