Overthinking attack (reasoning-weight amplification)

这是一种技术，攻击者将标准 AI 模型与从其训练的"推理"版本进行比较，利用推理模型"思考"方式的差异来提取模型本不应该泄露的隐藏信息——有效性是先前方法的 10 倍——它将使现代 AI 模型更智能的额外内部推理步骤作为新的泄露来源加以利用。

随着公司争相部署更强大的"推理" AI 模型，这表明增加的智能可能会带来新的、难以预见的数据泄露风险，这些风险可能被标准安全测试遗漏。