정의
AI 모델 파일(일반적으로 HuggingFace와 같은 공개 저장소에서 다운로드됨)이 합법적인 AI 서버에 의해 로드될 때 공격자 코드를 실행하도록 변조되었습니다. 기존 악성코드와 달리 의심스러운 실행 파일이 없으며, 공격은 모델 가중치 또는 관련 코드 내에 숨겨져 있고 개발자 또는 프로덕션 서버가 모델을 로드하는 순간 자동으로 트리거됩니다.
왜 중요한가
AI 팀은 시간과 비용을 절약하기 위해 공개 허브에서 사전 학습된 모델을 일상적으로 다운로드합니다. 단일 중독된 모델은 공격자에게 AI 서버 및 연결된 모든 것에 대한 완전한 제어를 제공할 수 있습니다. 공격은 사용자 상호 작용이 필요 없으며 대부분의 기존 백신 도구를 우회합니다.