무슨 일이 있었나
MIT FutureTech(MIT Sloan 및 CSAIL 소속)는 University of Queensland, IBM Research, Stanford, MIRI, UN University를 포함한 40여 개 협력 기관과 함께 AI 위험 완화 저장소(AI Risk Mitigation Repository)를 발표했습니다. 이는 47개 AI 거버넌스 및 위험 관리 프레임워크를 체계적으로 검토하여 2,206개의 제안된 AI 안전장치를 목록화한 것으로, 각 항목은 해결하는 위험, 행위 주체, 수명주기 단계, 위험 감소 방식으로 태그가 지정되었습니다. 완화 조치 중 55%만이 AI 시스템을 직접 대상으로 하며, 나머지는 조직 프로세스, 거버넌스 구조, 공공 정책, 더 넓은 사회 시스템을 다룹니다. 책임은 개발자(약 41%), 배포 조직(약 33%), 거버넌스 행위자(약 18%)에 분산되어 있습니다. 중요한 적용 공백은 점점 더 자율화되는 에이전트에 대한 인간의 감독, AI 중단에 대한 사회적 회복력/복구, 컴퓨팅 자원 관리에 집중되어 있으며, 각각 문서화된 완화 조치의 2% 미만을 차지하는 반면, 조직적 책임은 13.4%로 가장 큰 범주입니다. 272명의 전문가로 구성된 델파이 패널은 경쟁 역학과 권력 집중을 2030년까지 심각하거나 치명적인 피해를 초래할 가능성이 가장 높은 5대 위험 중 하나로 평가했지만, 이를 다루는 완화 기록은 15건에 불과합니다. 팀은 8개 항목으로 구성된 보고 체크리스트(완화 조치, 해결 위험, 실행 주체, 시기, 방법)인 PRIMER를 도입했으며, 일관된 이름을 공유한 기록은 3.4%에 불과했습니다.
왜 중요한가
이것은 조직이 AI 위험에 대해 실제로 할 수 있는 일과 적용 범위가 가장 얇은 부분에 대한 가장 포괄적인 공개 지도로, 일반적인 거버넌스 조언을 반복하는 대신 AI 위험 등록부 및 보증 프로그램을 설계하는 데 직접 사용할 수 있습니다.
필요한 조치
PRIMER 보고 체크리스트를 AI 위험 분류 체계에 매핑하고, 적용이 부족한 범주(에이전트 감독, 회복력, 컴퓨팅 거버넌스)에 대해 기존 위험 등록부를 감사하십시오.