定义 一个其安全训练被外科手术式剥离的模型——其拒绝层被移除,因此它会乐意做那些原本被训练去拒绝的事情,通常只需少量代码改动。攻击者在需要无护栏模型进行恶意工作时使用它们,且有一个此类模型曾被用于实际窃取客户AI凭据。 影响分析这表明一个“安全”的开放模型可以被重新包装成不受约束的工具,这改变了任何依赖声誉或公开安全声明的人的风险评估方式。