무슨 일이 있었나
2026년 10월 29일, ETSI의 AI 보안 기술 위원회(TC SAI)는 생성형 AI 시스템이 유해한 딥페이크를 생성할 위험을 줄이기 위한 기술 사양 ETSI TS 104 275를 발표했습니다. 이는 사후 탐지가 아닌 사전 예방적 수명주기 접근 방식을 취하며, 배포 전 위험 평가, 인간 감독 프로세스, 오용 방지 장치(콘텐츠 필터링, AI 생성 콘텐츠 라벨링, 사용자 경고), 지속적인 모니터링/사고 조사, 증거 기반 평가를 요구합니다. 또한 조직이 실제로 안전장치가 충족되었음을 입증할 수 있도록 테스트 시나리오와 합격/불합격 기준을 명시하며, ETSI EN 304 223의 기본 사이버보안 요구사항을 기반으로 합니다. ETSI는 이를 EU AI 법의 목표를 지원하고 고위험으로 분류된 시스템을 넘어 보안을 확장하는 것으로 위치하고 있습니다.
왜 중요한가
이것은 딥페이크 예방을 사후 탐지에 의존하지 않고 보안 및 거버넌스 수명주기 문제로 취급하며, 구체적이고 감사 가능한 요구사항과 테스트 기준을 제시한 최초의 ETSI 사양입니다. 이는 EU/ETSI 회원국의 AI 개발자와 운영자에게 생성형 AI 오용에 대한 완화 통제를 입증할 수 있는 표준 기반 방법을 제공하며, AI 법의 고위험 분류를 넘어 AI 보안 요구사항을 확장합니다 — EN 304 223 및 ISO/IEC 27090을 보완하는 실질적인 규정 준수 경로입니다.
필요한 조치
생성형 AI 제품 통제를 TS 104 275 요구사항(배포 전 위험 평가, 인간 감독, 콘텐츠 라벨링/필터링, 지속적 모니터링, 증거 문서화)에 매핑하고, 테스트 시나리오와 합격/불합격 기준을 적합성 증거로 채택하며, 딥페이크 완화 통제를 EN 304 223 및 EU AI 법 의무와 일치시킵니다.