Attack  ·  术语库

Broken access control (AI plugins & chatbots)

一种安全漏洞,其中AI驱动的插件或聊天机器人无法正确检查谁被允许查看或执行什么操作。低权限用户(如基础订阅者)可以利用该漏洞来读取私人对话日志、提取存储的API密钥,或触发他们本不应有权限执行的操作。
安装在公司网站上的单个配置错误的聊天机器人插件可能会将整个AI堆栈的凭据交给攻击者,包括授予第三方AI提供商计费访问权限的密钥。由于这些插件通常由市场营销或运营团队在没有安全审查的情况下安装,该漏洞可能会在数月内未被发现。
参考资料
OWASP Top 10 for LLM Applications (LLM06: Excessive Agency / LLM02: Sensitive Information Disclosure)
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →