기술 설명
Anthropic의 Frontier Red Team은 2026년 6월 3일 LLM ATT&CK Navigator를 발표했습니다. 이는 2025년 3월부터 2026년 3월 사이에 Claude의 사용 정책 위반으로 밴된 832개 계정에 대한 1년간의 실증 연구입니다. 이 연구는 모든 14개 MITRE ATT&CK 전술과 482개의 고유한 하위 기법에 걸쳐 13,873개의 관찰된 기법 사용을 매핑했습니다. 팀은 복합 위험도 지표인 AI Risk Enablement Score (ARiES)를 도입했습니다. 가장 중요한 점은 다음과 같습니다. 연구 기간의 전반부와 후반부 사이에 중급 이상 위험도로 분류된 행위자의 비율이 33%에서 56%로 증가했습니다. 이는 70% 상대적 증가로, AI 도구가 정교한 사이버 작전을 빠르게 민주화하고 있음을 나타냅니다. 이 연구 결과는 저위험도 적대자와 고위험도 적대자 사이의 분계선이 더 이상 기술적 능력이 아니라 AI 지원 워크플로우를 조율하는 능력임을 드러냅니다.
공격 경로
적대자들은 재정찰 및 리소스 개발부터 초기 접근, 측면 이동, 영향 단계까지 모든 공격 단계에서 Claude 모델을 사용했으며, 482개의 고유한 ATT&CK 하위 기법이 관찰되었습니다. AI 지원은 복잡한 공격 계획, 악성코드 개발, 피싱 커스터마이제이션, 취약점 조사에 대한 기술적 진입장벽을 낮추어, 이전에 기술적 깊이가 부족했던 행위자들이 정교한 다단계 작전을 실행할 수 있게 했습니다.
영향받는 시스템
모든 공격 단계에서 AI 지원 적대자에게 노출된 엔터프라이즈. 이 연구는 또한 기존 ATT&CK 스타일 프레임워크의 격차를 식별합니다. 이들은 아직 AI 에이전트에 의한 자율 킬 체인 조율을 완전히 포착하지 못합니다. 이는 현재 탐지 모델에 의존하는 방어자들에게 중요한 맹점입니다.
완화 방안
Anthropic은 이러한 발견에 기반하여 내부 분류기를 업데이트하고 행동 프로브 탐지를 확대했습니다. 방어자들은 다음을 수행해야 합니다. (1) 기존 탐지 커버리지를 ATT&CK v18에 매핑하고 AI 상승효과가 가장 큰 기법 범주, 특히 재정찰, 무기화, 측면 이동의 격차를 식별합니다. (2) 적대자가 기본적으로 중급 위험도 수준에서 AI 지원으로 작동한다고 가정하는 위협 모델링 연습을 가속화합니다. (3) 고위험도 작전 계획 쿼리에 대한 모델 접근을 제한하기 위해 AI 사용 정책을 검토합니다.