정의
모델 내부에 숨겨진 악의적 동작으로, 특정 트리거가 활성화될 때까지 잠복 상태를 유지합니다. 연구에 따르면 내부 '뉴런' 몇 개만 변경해도 심을 수 있으며, 중요한 것은 탐지가 가능하다는 점입니다. 이는 하위 사용자가 알아차리기 어려운 매우 찾기 힘든 변조 형태입니다.
왜 중요한가
직접 학습시키지 않은 모델도 나중에 오작동하라는 명령을 은밀히 내장할 수 있으며, 이는 모든 하위 사용자에게 심각한 공급망 위험입니다.
Attack · 용어집
Sleeper agent (neuron-level model backdoor)
관련 용어
라이브 피드에서 추적
이 개념이 실제 AI 보안·거버넌스 동향에서 어떻게 나타나는지 확인하세요.
피드 열기 →