Attack  ·  术语库

System prompt leakage

组织加载到AI系统中的隐藏指令集——其"系统提示"——定义了AI的角色、规则、机密上下文和业务逻辑。系统提示泄露发生在攻击者欺骗或配置不当AI系统以暴露这些指令时,从而泄露专有工作流程、内部数据引用、安全绕过提示或竞争信息。
系统提示通常包含组织认为对最终用户隐藏的商业机密信息;泄露的提示可能暴露安全控制措施,导致有针对性的攻击,或者暴露知识产权和合规流程。GitLab AI代码助手中的缺陷恰好暴露了这类敏感数据。
参考资料
OWASP LLM Top 10 — LLM07:2025 System Prompt Leakage
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →