Attack  ·  术语库

Abliterated model

一个其安全训练被外科手术式剥离的模型——其拒绝层被移除,因此它会乐意做那些原本被训练去拒绝的事情,通常只需少量代码改动。攻击者在需要无护栏模型进行恶意工作时使用它们,且有一个此类模型曾被用于实际窃取客户AI凭据。
这表明一个“安全”的开放模型可以被重新包装成不受约束的工具,这改变了任何依赖声誉或公开安全声明的人的风险评估方式。
arXiv — Understanding the Retention of LLM Safety Behaviors
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →