정의
모델이나 에이전트에 대한 공격으로, 주 훈련 이후에 발생하며, 오염된 파인튜닝 데이터나 모델 허브에서 다운로드한 변조된 체크포인트를 통해 이루어진다. 그런 다음 모델은 트리거될 때까지 정상적으로 동작하다가 출시된다. 이는 우리가 직접 구축하지 않은 모델에 대한 신뢰를 악용한다.
왜 중요한가
프롬프트 주입 방어만으로는 배포 전에 사보타주된 모델을 잡아낼 수 없음을 보여주며, 따라서 출처 추적과 사후 훈련 검사가 중요하다는 점을 시사한다.
Attack · 용어집
Post-training supply chain attack (trust-the-hub)
관련 용어
라이브 피드에서 추적
이 개념이 실제 AI 보안·거버넌스 동향에서 어떻게 나타나는지 확인하세요.
피드 열기 →