指南  ·  2026-05-17

CISA和五眼联盟伙伴发布关于Agentic AI采用的联合指导

指南High 影响Global
CISA、NSA、澳大利亚ASD ACSC、加拿大网络安全中心、新西兰NCSC和英国NCSC于2026年5月1日发布了题为"谨慎采用Agentic AI服务"的联合指导,概述了五个类别的23种不同风险:特权、设计和配置、行为、结构和问责。该指导强调,agentic AI系统与传统GenAI不同,能够使用连接的工具、记忆系统和外部数据源自主推理、做出决策和采取行动。
这是第一个专门针对agentic AI系统的多政府协调安全指导,将自主代理风险从新兴供应商问题提升为关键国家基础设施分类。该指导警告说,权限过高的AI代理可能会批准付款、修改合同、操纵记录、删除日志和泄露敏感信息,同时在审计跟踪中看起来是合法的。将AI集成到操作技术、安全运营或企业自动化中的组织面临着新类别的网络和治理挑战。
组织应该实施分阶段AI部署、受限权限、高风险行为的人在回路批准、持续监控和审计、强大的日志记录、分段环境、稳健的威胁建模和安全设计实施。该指导建议将AI安全作为现有网络安全框架的嵌入部分,而不是独立学科来对待。
来源
CISA Official AnnouncementNCSC UK Blog
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →