무슨 일이 있었나
11월 16일 Google Threat Intelligence Group과 Mandiant는 적대적 AI 환경이 중요한 변곡점에 도달했다고 보고했다: 위협 행위자들이 수동 프롬프트를 넘어 자율 다중 에이전트 공격 프레임워크(ARTEX, CAIRN, CyberStrikeAI, PentAGI)로 이동하고 있으며, n-day 무기화를 자동화하고, LLMJacking을 통해 수익화하며, 표적 정찰 공격에서는 자율 코딩 어시스턴트 구성을 조작하여 로컬 실행 중 백도어를 설치하고 있다. 그들은 미국 항공우주 부문 표적에 대해 CAIRN이 사용된 것을 관찰했다.
왜 중요한가
이는 적대적 에이전트 AI가 실험 단계에서 기계 속도의 지속적이고 다중 목표 운영으로 전환되었음을 보여주는 일차적이고 권위 있는 확인이다. 특히 AI 코딩 어시스턴트를 겨냥한 특정 공급망 벡터를 포함한다. 이는 방어자들에게 AI 에이전트와 그 구성 표면을 실제 공격 표면으로 취급하고, 인터넷에 노출된 AI 도구에 대한 자동화된 공격 파이프라인을 예상하라고 경고한다.
공격 경로
공격자들은 LLM 기반 다중 에이전트 프레임워크를 사용하여 취약점 발견 및 악용(차등 분석을 통한 패치 역공학으로 n-day 무기화 포함)을 자동화하고, 공격 경로를 연결하며, 자율 코딩 어시스턴트 구성을 조작하여 로컬 실행 중 백도어를 설치하는 정찰 벡터를 목표로 한다.
영향받는 시스템
자율 다중 에이전트 공격 프레임워크(ARTEX, CAIRN, CyberStrikeAI, PentAGI, HexStrike AI) 및 그들이 노리는 AI 코딩 어시스턴트 구성/신뢰 경계
완화 방안
AI 코딩 어시스턴트 구성 및 훅 신뢰 경계를 강화하고, AI 도구를 프로덕션 인프라로 취급하며, 에이전트 프레임워크 활동/IOC를 모니터링하고, 인터넷 노출 서버 전반에 자동화된 악용 및 LLMJacking(사용량/비용) 방어를 적용하라.