무슨 일이 있었나
Anthropic의 Frontier Red Team은 Zhipu AI(Z.ai)의 오픈 가중치 프론티어 모델인 GLM-5.3에 대한 평가를 발표했으며, 공격자가 간단한 기법을 사용하여 시뮬레이션 테스트에서 64%~100%의 확률로 안전장치를 우회할 수 있음을 발견했습니다. GLM-5.3은 Claude Mythos Preview와 비슷한 속도로 엔드투엔드 익스플로잇을 개발하며(ExploitBench에서 410회 시도 중 50회 성공 vs. 56회), 자율적으로 엔드투엔드 익스플로잇을 구축할 수 있는 최초의 모델과 동등한 수준입니다. 그러나 Anthropic의 안전장치가 적용된 릴리스와 달리 GLM-5.3은 무료로 다운로드할 수 있습니다. 인간 전문가 세션에서 이 모델은 이전에 알려지지 않은 취약점을 식별하고 이를 연결하여 피해자 컴퓨터에서 임의의 파일을 읽을 수 있는 작동 가능한 익스플로잇을 만들었으며, 이전 오픈 모델이 전혀 성공하지 못한 Binary Exploitation 시도에서 4%의 확률로 완전한 제어 흐름 탈취를 달성했습니다. 보고서는 NIST CAISI를 인용하여 GLM-5.3이 "현재까지 공개된 오픈 가중치 모델 중 가장 사이버 역량이 뛰어난 모델"이라고 지적하고, 그 느슨한 안전장치가 "악의적 행위자에게 제공되는 사이버 역량을 크게 증가시킨다"고 평가합니다.
왜 중요한가
CISO와 보안 리더에게 이는 익스플로잇 엔지니어링 수준의 역량이 이제 누구나 다운로드할 수 있는 오픈 가중치 모델에 유통되고 있다는 구체적이고 정량화된 사실입니다. 이는 방어 투자와 중요 소프트웨어 노출 검토에 반영되어야 하는 외부 위협 기준선의 실질적 변화입니다.
필요한 조치
인력, 공급망 또는 인터넷 노출 자산이 GLM-5.3 기반 익스플로잇 체인에 노출될 수 있는지 검토하고, 패치되지 않은 브라우저, 드라이버 및 네트워크 장치 취약점에 대한 완화 조치를 가속화하십시오.