무슨 일이 있었나
MLCommons의 AI 위험 및 신뢰성 워킹그룹은(2026년 9월 30일자 페이지) 개인정보 보호 및 기밀성 워크스트림을 발행/업데이트했다. 이 워크스트림의 대표 이니셔티브는 (1) 에이전틱 AI 배포에서 개인정보 보호 위험을 설명하기 위한 공유 개인정보 보호 및 기밀성 위험 분류체계(Privacy and Confidentiality Risk Taxonomy)와 (2) AI 에이전트가 알려진 개인정보 보호 위험을 얼마나 잘 완화하는지 측정하는 2027년 개인정보 벤치마크 계획으로, 자율 에이전트의 데이터 최소화와 모델 훈련에서의 기억/재현(recall) 감소를 다룬다.
왜 중요한가
현재 최첨단 및 에이전틱 AI에서 개인정보 보호 위험을 측정하기 위한 표준 프레임워크는 없다. 업계 표준 MLPerf 벤치마크의 배후 기관인 MLCommons가 개방형 위험 분류체계와 에이전틱 개인정보 벤치마크를 구축함으로써 정부와 기업에 벤더 중립적인 측정 기준을 제공하며, NIST/OWASP 통제 프레임워크를 보완한다.
필요한 조치
에이전틱 AI를 배포하는 조직은 분류체계와 벤치마크 산출물을 주시해야 하며, 보안 및 개인정보 보호 실무자는 워킹그룹에 참여하여 에이전트 데이터 최소화 및 메모리/재현 위험에 대한 요구사항을 제공할 수 있다.