무슨 일이 있었나
2026년 11월 9일 발행(문서 메타데이터), 스탠포드 HAI의 RegLab에서 작성. 이 정책 청사진은 정부 기관이 고위험 공공 서비스에서 AI 도구의 신뢰성을 검증할 수 있는 방법을 제시합니다. 핵심 주장은 '일반적인 AI 평가 방법은 정부가 실제로 AI 도구를 평가하기에 충분하지 않다'는 것이며, 기관들은 이미 '숨은 벤치마크' — 과거 업무 수행에 대한 행정 기록으로, AI 진행을 측정하고 촉진하기 위해 공개될 수 있는 데이터 — 를 보유하고 있다는 점을 강조합니다. 이 보고서는 기관들이 조달 조건으로 제3자 평가를 요구하고, 시스템 배포 시 무작위 A/B 테스트를 실시하며, 비용 효율적인 독립 전문성을 위해 대학과 협력할 것을 권장합니다. 두 가지 위험 범주를 구분합니다 — 안전 위험(도구가 조작되거나 공격받는 경우; 정부 데이터를 다루는 에이전트 시스템) 및 성능 위험(의도된 혜택을 제공하지 못하는 경우) — 그리고 배포 규모를 인용합니다: '2025년 한 해에만 56개 연방 기관이 정부 운영 내 3,611개의 개별 AI 사용 사례를 보고했으며, 이는 전년 대비 69% 증가한 수치입니다.'
왜 중요한가
정부는 AI의 가장 크고 빠르게 성장하는 배포처 중 하나이며, 이는 행정부를 위한 구체적인 조달 및 평가 플레이북이면서 제3자 검증 표준이 어디로 향할지 시사합니다 — 공공 부문에 AI를 판매하는 모든 공급업체와 직접적으로 관련됩니다.
필요한 조치
공공 부문 및 기업 AI 보증 책임자를 위한: 귀사의 조달이 AI 계약을 독립적인 제3자 평가에 조건부로 하는지 테스트하고, 귀사의 행정 또는 운영 데이터에서 '숨은 벤치마크'를 활용할 수 있는지 확인하십시오.