무슨 일이 있었나
RAND의 AI, Security, and Technology Center는 기존의 공격 분류학을 넘어 생성형 AI 시스템의 보안 약점을 식별하고 특성화하기 위한 체계적이고 취약성 중심의 프레임워크를 제시합니다. 저자들은 AI 아키텍처를 체계적으로 분해하여—훈련 데이터 및 토큰화에서 transformer 레이어 및 배포 인터페이스까지—취약성이 발생하는 위치와 방식을 매핑하고, '31개의 서로 다른 AI 취약성 클래스'를 식별합니다. 이 중 대부분은 결정론적 코드 오류가 아니라 확률적 학습 역학, 데이터 구성, 최적화 트레이드오프에서 비롯되기 때문에 기존의 소프트웨어 결함과 근본적으로 다릅니다. 보고서는 이러한 많은 취약성이 부분적으로만 패치 가능하며, 기존의 소프트웨어 업데이트가 아닌 아키텍처 보안조치, 출처 검증, 지속적인 모니터링이 필요함을 발견했으며, 체계적인 위험 관리를 위해 AI 특화 취약성을 글로벌 표준에 통합할 것을 권장합니다. Elie Alhajjar, Sasha Romanosky, Kyle A. Kilian, Joe Uchill이 저술했으며 2026년 7월 30일 발행되었습니다.
왜 중요한가
CISO 및 보안 아키텍트는 보고서의 핵심 발견 사항—대부분의 AI 결함이 소프트웨어 버그처럼 단순히 패치될 수 없다—이 기업이 일회성 개선 대비 지속적인 모니터링에 예산을 책정하는 방식에 직접적인 영향을 미치기 때문에 AI 레드팀 활동, 취약성 공시, 패치 관리 프로그램을 범위 설정하기 위해 (적대적 기법 기반이 아닌) 구조적 분류학이 필요합니다.
필요한 조치
현재 AI 레드팀 활동 및 취약성 관리 프로그램을 보고서의 31개 클래스 분류법과 대조하여 전통적인 소프트웨어 취약성 스캐닝이 놓칠 수 있는 구조적 범위 공백을 식별합니다.