무슨 일이 있었나
2026년 10월 27일 (genai.owasp.org의 json-ld datePublished=2026-10-27), OWASP GenAI Security Project의 사이버 위협 인텔리전스(CTI) 레이어 팀은 'LLM 익스플로잇 생성 가이드 2.0'을 발표했습니다. 이는 익스플로잇 생성에서 LLM 보안 및 정밀 검토 이니셔티브의 2단계 보고서입니다. 2025년 봄부터 약 15개월간 팀은 모델 학습 컷오프 이후에 게시된 실제 Hack The Box 머신을 대상으로 두 개의 병렬 트랙을 운영했습니다: 인간 운영자가 호스팅/로컬 모델과 단계별로 작업하는 '클래식' 트랙과, 자율 프레임워크를 동일한 대상에 지정하고 실행되도록 둔 '에이전트형' 트랙이었습니다. 이 보고서는 성공률, 인간 노력, 비용, 가드레일 및 운영상 제한 사항을 비교합니다; 주요 발견 사항은 두 접근법 모두 전문성 장벽을 낮췄지만 어느 쪽도 제거하지 못했고, 자율 에이전트는 종종 시끄럽고 반복적인 활동을 생성한 반면 인간이 주도하는 공격은 더 조용할 수 있으며, 벤치마크 신뢰성을 평가하고 AI 지원 위협에 직면한 방어자에게 탐지 기회를 제공한다는 점입니다 (예: 방어자들은 이제 패치하는 데 며칠, 때로는 몇 시간밖에 없음).
왜 중요한가
현실적인 위협 행위자 제약 하에서 인간 주도 대 완전 에이전트형 공격적 LLM 사용에 대한 최초의 OWASP 경험적 비교로, 위협 인텔 분석가와 방어자가 AI 지원 공격을 탐지하고 우선순위를 정하는 방법과 레드팀이 에이전트형 vs 클래식 AI 레드티밍을 범위를 정하는 방법에 직접적으로 정보를 제공합니다. 이는 초기의 NCSC/ASD 평가를 강화하며, 단기 AI 향상이 신규 사용자를 전면적으로 가능하게 하기보다는 이미 능력 있는 행위자에게 유리하다는 점을 뒷받침하고, 에이전트형 공격 행동에 대한 탐지 신호를 제공합니다.
필요한 조치
보안 팀은 2단계 발견 사항을 검토하여 에이전트형 AI 활동(반복적 도구 호출, 시끄러운 정찰)에 대한 탐지를 조정하고 레드팀/자동화 공격 평가 방법론을 형성해야 합니다; 'AI가 해킹할 수 있다'는 주장을 평가하는 실무자는 보고서 지침에 따라 벤치마크 점수를 의심스럽게 여겨야 합니다.