Attack  ·  术语库

Malicious model / poisoned AI model

一个AI模型文件(通常从HuggingFace等公共存储库下载),已被篡改以在被合法AI服务器加载时执行攻击者代码。与传统恶意软件不同,这里没有可疑的可执行文件——攻击隐藏在模型权重或相关代码中,在开发者或生产服务器加载模型的瞬间自动触发。
AI团队经常从公共中心下载预训练模型以节省时间和成本;单个被污染的模型可以让攻击者完全控制AI服务器及其连接的所有内容。该攻击不需要用户交互,并绕过大多数传统防病毒工具。
参考资料
MITRE ATLAS — AML.T0010 ML Supply Chain Compromise
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →