무슨 일이 있었나
'Agentic Backdoors via Pretraining Poisoning'(arXiv 2610.37741, 10월 27일 제출, Apache-2.0 코드)에서 연구자들은 Qwen3 모델을 0.6B/1.7B/4B 규모로 처음부터 사전 학습하고 CLI 에이전트로 사후 학습시켜, 새로운 독 설계로 사전 학습 코퍼스의 약 0.1%를 오염시키면 트리거 시 발동하는 RCE 백도어가 심어지고 에이전트는 그 외에는 정상적으로 동작함을 보여주었습니다. ASR은 규모에 따라 증가했으며(4B에서 약 92%), 0.0005% 오염에서도 지속되었고, SFT, DPO 및 도구 사용을 위한 RL을 통과해도 생존했습니다.
왜 중요한가
이는 사전 학습에 대한 데이터 전용 독 공격이 배포된 에이전트에서 원격 코드 실행에 도달하고 사후 학습을 생존할 수 있음을 보여주는 최초의 입증으로, 배포 훨씬 전에 모델 공급망 및 코퍼스 무결성 통제의 필요성을 강화합니다.
적용 범위
프론티어/에이전트 모델을 운영하거나 조달하는 팀은 학습 코퍼스 오염을 RCE 벡터로 취급하고, 모델 공급망에 출처/독 검사를 추가하며, 에이전트 레드팀 및 조달 검토에서 이를 고려해야 합니다.