무슨 일이 있었나
2026년 10월 20일, OWASP GenAI Security Project의 AI Red Teaming Initiative는 'GenAI Red Teaming Manual: A Practical Guide for Adversarial Testing of Generative AI Models & Systems' v1.0을 발표했습니다 — genai.owasp.org에서 무료로 다운로드할 수 있는 144페이지 분량의 문서입니다. 이 매뉴얼은 8단계 방법론(계획/범위 설정, 정찰, 공격 표면 매핑, 직접 AI/멀티모달 취약점 테스트, 권한 상승을 포함한 에이전트 공격 벡터, 가드레일 우회 및 자원 고갈, 사후 익스플로잇/영향 및 폭발 반경 매핑, 평가 및 보고, 수정)을 제시하며, 재현 가능한 지표와 명시적인 레드-투-블루 핸드오프를 통해 발견 사항이 수정 사항으로 전환되도록 지원합니다.
왜 중요한가
이것은 실제 공백을 메웁니다: 대부분의 실용적인 GenAI 보안 지침은 프롬프트 인젝션에서 멈추는 반면, 이 매뉴얼은 생성형 및 에이전트 시스템의 적대적 테스트를 위한 구조화되고 벤더 중립적이며 종단 간 방법론을 제공하며, 에이전트 권한 상승 및 가드레일 우회를 포함합니다. 이는 OWASP Top 10 for LLM/Agentic Applications를 보완하고 레드 팀, QA, 감사자에게 AI 평가의 범위 설정 및 보고를 위한 공통 방법과 지표를 제공합니다.
필요한 조치
LLM/에이전트 레드 팀잉 활동에 매뉴얼의 8단계 방법론을 채택하십시오; 연습 범위 설정, 지표, 레드-투-블루 핸드오프를 이에 맞추십시오; OWASP Top 10 위험에 대한 평가 계획에 이를 사용하십시오.