定义 由云安全联盟确定的一种风险状况,其中AI代理同时具有三个危险特性:访问敏感数据的权限、从不受信任的外部源接收指令的能力,以及在外部世界采取行动的能力(例如发送电子邮件、调用API)。任何具有这三个条件的代理都极易被操纵造成严重伤害。 影响分析研究发现,98%的生产AI代理已经具备这三个条件,但只有11%拥有充分的防御措施。这意味着绝大多数已部署的企业代理在结构上离一个精心设计的恶意输入仅一步之遥,就可能导致重大事件。