Concept  ·  术语库

Lethal trifecta (AI agents)

由云安全联盟确定的一种风险状况,其中AI代理同时具有三个危险特性:访问敏感数据的权限、从不受信任的外部源接收指令的能力,以及在外部世界采取行动的能力(例如发送电子邮件、调用API)。任何具有这三个条件的代理都极易被操纵造成严重伤害。
研究发现,98%的生产AI代理已经具备这三个条件,但只有11%拥有充分的防御措施。这意味着绝大多数已部署的企业代理在结构上离一个精心设计的恶意输入仅一步之遥,就可能导致重大事件。
参考资料
CSA AI Agent Lethal Trifecta Report
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →