기술 설명
Google의 위협 인텔리전스 그룹(GTIG)은 사이버 범죄자들이 AI를 사용하여 미지의 제로데이 취약점을 발견하고 무기화한 첫 번째 공식 사례를 공개했다. 여러 '저명한 사이버 범죄 위협 행위자'들이 협력하여 인기 오픈소스 시스템의 Python 스크립트에서 이중 인증(2FA) 우회를 가능하게 하는 버그를 식별했다. 이 그룹들은 이후 AI 기반 코드를 사용하여 이 결함을 무기화했다. 이 취약점은 실전 공격이 시작되기 전에 차단되었으며, Google은 이를 벤더에 공개했다.
공격 경로
이 공격은 소프트웨어 로그인 로직의 숨겨진 신뢰 가정을 목표로 하며, 기존 보안 도구가 종종 감지하지 못하는 미묘한 동작 약점을 추론하는 AI의 능력을 활용한다. 공격 체인: (1) AI가 인증 우회를 식별, (2) AI가 무기화된 익스플로잇 코드 생성, (3) 공격자들이 프로덕션 시스템에 배포.
영향받는 시스템
명명되지 않은 인기 오픈소스 시스템(Python 스크립트 기반). 추가로, Google은 다음을 식별했다: (1) APT45(북한 군부 그룹)가 AI를 사용하여 수천 개의 익스플로잇 페이로드를 테스트 및 검증, (2) 'PromptSpy'라는 악성코드가 Gemini를 사용하여 Android 기기를 자율적으로 탐색하고 실시간으로 제어 명령어를 생성.
완화 방안
즉각적: 위협 행위자들이 이제 AI 모델에서 거의 실시간으로 제로데이 익스플로잇을 생성할 수 있다고 가정하라(Google 추정 ~패치 공개 후 30분). 조직들은 반드시: (1) AI 기반 취약점 발견(Daybreak, Mythos 또는 동등한 도구를 통해)을 도입하여 공격자보다 먼저 결함을 찾고, (2) 가능한 경우 공개 기간을 90일에서 30일로 단축하고, (3) 지속적인 패치 적용 및 불변 인프라를 구현하여 공격 후 접근 지속 시간을 줄이고, (4) 2FA 우회가 이제 일반적인 공격 경로라고 가정하고 추가 인증 요소(FIDO2, 하드웨어 토큰)를 추가해야 한다.