무슨 일이 있었나
2026년 9월 8일, 영국 과학혁신기술부(DSIT)는 정부 및 산업 전반에서 AI 기반 제품을 설계, 조달, 운영, 전달하기 위한 구조화된 지침을 제공하는 AI 위험 관리 도구 모음을 발표했습니다. 도구 모음은 팀이 위험 선호도를 설정하고, 이사회 수준의 승인을 확보하고, 위험 소유자를 지정하고, 처리 전략을 문서화하고, 위험을 지속적으로 모니터링하도록 요구합니다. 보안 예시는 명시적으로 데이터 중독, 데이터 유출, 섭동 공격, 프롬프트 주입을 다룹니다.
왜 중요한가
이는 공공 부문 AI 조달 및 배포를 위해 실제 운영 가중치를 가진 권위 있는 영국 정부 지침이며, 대행 및 도구 사용 AI 시스템으로 라이프사이클 위험 관리 통제를 명시적으로 확장합니다 — 영국 규제 기관에서 참조할 가능성이 높고 공공 부문 AI 위험 평가를 위한 사실상의 표준으로 채택될 거버넌스 템플릿입니다.
필요한 조치
공공 부문 기관 및 AI 기반 제품을 영국 정부에 배포하는 공급업체는 도구 모음의 소유권, 위험 선호도, 지속적 모니터링 프레임워크에 대해 자신의 시스템을 매핑해야 합니다.