정의
많은 AI 모델은 파일이 열리는 순간 모델의 데이터뿐만 아니라 어떤 코드든 실행하기 위한 지시를 몰래 포함할 수 있는 파일 형식('pickle')을 사용하여 저장되고 공유됩니다. 이러한 파일의 위험을 스캔하기 위해 특별히 구축된 도구조차도 부비 트랩이 설치된 모델을 안전한 것으로 표시하도록 속을 수 있습니다.
왜 중요한가
기업들은 공개 허브에서 사전 학습된 모델을 일상적으로 다운로드합니다. 안전 스캔 단계 자체를 우회할 수 있다면 조직은 공격자에게 내부 시스템의 발판을 제공하는 모델을 무심코 로드할 수 있습니다.