무슨 일이 있었나
5월 11일, Google의 위협 인텔리전스 그룹(GTIG)은 AI 모델을 사용하여 개발된 제로데이 익스플로잇(명명되지 않은 오픈소스 웹 기반 시스템 관리 도구의 2FA 우회)을 식별하고 차단했다고 공개했습니다. Python 스크립트는 LLM 생성의 특징을 보였습니다: 교육용 docstring, 환각된 CVSS 점수, 구조화된 Pythonic 포맷팅, 상세한 도움말 메뉴, ANSI 색상 클래스. 익스플로잇은 대상 도구의 2FA 로직의 하드코딩된 신뢰 가정을 목표로 합니다—LLM이 탐지하는 데 탁월한 높은 수준의 의미론적 결함입니다. GTIG는 AI 모델(Google Gemini 또는 Anthropic Claude Mythos가 아님)이 발견 및 무기화를 촉진하기 위해 무기화되었다고 높은 신뢰도로 평가했습니다.
왜 중요한가
이것은 AI로 개발된 첫 번째 확인된 현장 제로데이입니다. 수년간의 연구 경고를 실행합니다: 적들은 이제 AI 지원 취약점 발견 압축 익스플로잇 타임라인을 갖추고 있습니다. 익스플로잇은 메모리 손상이 아닌 로직 결함을 목표로 하며, 프론티어 LLM이 휴면 의미론적 취약점을 표면화할 수 있는 충분한 상황 추론을 가지고 있음을 시사합니다. Google의 수석 위협 인텔리전스 분석가인 John Hultquist는 다음과 같이 명시했습니다: 'AI 주도 취약점 및 익스플로잇의 시대가 이미 왔습니다.' 범죄 행위자들은 랜섬웨어/압박 경쟁에서 AI의 속도 이점으로부터 가장 많은 이득을 얻을 수 있습니다.
적용 범위
웹 기반 시스템 관리 도구를 호스팅하는 모든 엔터프라이즈는 공격 표면이 압축되었다고 가정해야 합니다. 한때 몇 주가 걸렸던 패치 타임라인은 이제 몇 시간에서 며칠의 위협 윈도우에 직면합니다. CISO들은 다음을 수행해야 합니다: (1) 적들이 당신의 인프라에서 제로데이를 발견하기 위해 AI가 사용될 것으로 가정; (2) 패치 배포 및 사건 대응 타임라인 가속화; (3) AI 지원으로 개발된 제로데이에 대해 CISA KEV 카탈로그 모니터링(증가 예상); (4) AI 지원 취약점 발견을 포함하도록 레드팀 연습 확대; (5) 인증 및 권한 부여 제어의 가정 기반 로직 강화.