기술 설명
토론토 대학, Vector Institute, 케임브리지 대학, ServiceNow의 연구원들이 개방형 가중치 LLM을 사용하여 만나는 각 대상에 맞춘 공격 전략을 생성하는 개념 증명 컴퓨터 웜을 시연했습니다. 고정된 익스플로잇 코드를 사용하는 기존 웜과 달리, 이 웜은 이미 손상된 머신의 도난 계산 리소스를 기생적으로 실행하여 추론을 유지하고, Linux, Windows, IoT 장치에 걸친 네트워크를 위해 실시간으로 공격 로직을 합성합니다. 공격자의 새로운 감염당 한계 비용은 0입니다. 웜이 상업 AI 플랫폼에 의존하지 않으므로, 서비스 거부 및 속도 제한과 같은 중앙화된 안전 제어는 구조적으로 무관합니다.
공격 경로
네트워크 호스트의 초기 침투는 웜에 호스트의 계산 능력에 대한 접근을 제공하며, 이를 사용하여 개방형 가중치 LLM을 로컬로 실행합니다. 웜은 인접한 호스트의 사용 가능한 취약점에 대해 추론하고 — 일반적인 기업 네트워크 취약점을 악용하고 — 대상별로 접근 방식을 적응시키며, 인간 운영자 개입 없이 자율적으로 확산됩니다. 이 공격은 상업 API 접근을 필요로 하지 않습니다.
영향받는 시스템
이질적 OS 환경(Linux, Windows, IoT)을 가진 엔터프라이즈 네트워크; GPU 또는 모델 서빙 노드가 있는 모든 네트워크는 특히 위험합니다. 이러한 노드가 웜의 추론 능력을 증폭시킬 수 있는 고가치 도난 계산 능력을 제공하기 때문입니다.
완화 방안
GPU 및 모델 서빙 노드를 격리하는 네트워크 분할; 제한된 횡방향 이동 경로를 가진 최소 권한 관리; 모델 서빙 엔드포인트의 이그레스 제어; 비정상적인 에이전트/도구 실행 패턴 및 계산 집약적 노드의 비정상적인 호스트 간 통신에 대한 탐지 규칙; AI 활성화 악성코드에 대한 사건 대응 플레이북 개발 및 테스트. 연구팀은 운영 세부사항을 공개하지 않았으며 책임 있는 공개 및 구현에 대한 접근 제어에 관해 토론토 대학 및 캐나다 정부 기관과 협력하고 있습니다.