무슨 일이 있었나
RAND Europe는 영국 외무부, 국제개발부(FCDO)의 의뢰로 인공지능, 생체인식, 머신러닝, 자동화된 의사결정 지원을 포함한 9가지 신흥 기술 범주가 전 세계 보안 부문 거버넌스 및 관리(SSG/M)에 걸쳐 어떻게 채택되고 있는지 조사하는 범위 설정 연구를 발표했다. 문헌 검토와 13명의 실무자 및 전문가와의 인터뷰를 기반으로, 보고서는 이러한 기술들이 효율성과 책임성을 강화할 수 있지만 '개인정보 보호 및 데이터 보호 우려, 알고리즘 편향, 불투명한 의사결정, 사이버보안 취약점, 데이터 주권 및 민간 공급업체 의존과 관련된 도전'을 초래한다는 것을 발견했다. 보고서는 '인간 개입 루프를 넘어 자동화 편향에 대응하는 다층 감시'로 이동하고 내부 정책과 외부 규제 및 감시를 결합하는 것을 포함하여 6가지 횡단면 거버넌스 관행을 제시한다. 보고서는 특히 AI 보조 안면 인식, 자동화된 의사결정 지원, 소셜 미디어 모니터링을 구매 전 정당화와 배포 후 독립적 감시가 필요한 고위험 수렴 지점으로 명시적으로 지적한다.
왜 중요한가
AI 지원 감시, 신원 확인 또는 의사결정 지원 도구를 배포하는 정부 및 국방/보안 기관은 이제 공동 설계, 다층 감시, 외부 감시라는 구체적인 거버넌스 체크리스트를 갖추고 있으며, 정책 담당자는 이를 사용하여 기존 또는 계획된 조달을 구매 전 모범 사례 표준에 대해 벤치마킹할 수 있다.
필요한 조치
현재 또는 계획된 AI/생체인식 보안 부문 배포를 RAND의 6가지 거버넌스 관행에 맞춰 검토하고 조달 승인 전에 독립적 감시/감사 조항을 요구하라.