무슨 일이 있었나
BCG의 2026 책임감 있는 AI 조사(MIT Sloan Management Review와의 파트너십)는 1,221명의 응답자를 대상으로 진행되었으며, 85%의 기업이 책임감 있는 AI(RAI) 프로그램을 구현했다고 주장하지만(2022년 52%에서 증가), 대부분은 신뢰할 수 있는 AI를 위한 더 깊은 기술적 기초를 구축하는 것보다 표면적 수준의 RAI 기초(정책, 교육)에 우선순위를 두고 있다는 것을 보여준다. 연구에 따르면 기업들은 위험 완화, 기술 테스트, 체계적 조직 위험 관리를 위한 강력한 거버넌스를 확립하기보다는 'RAI 기초 배포에 경주'하고 있다. 이러한 격차는 주요 규제(EU AI Act 등)와 에이전트 AI 역량이 RAI 성숙도의 변화를 강제해야 하지만 조직의 실천이 뒤처지고 있음을 시사한다.
왜 중요한가
에이전트 AI와 최첨단 모델 역량이 가속화되면서 기본적인 RAI 성숙도는 중요한 경쟁력 및 규정 준수 문제가 된다. 조사에 따르면 대부분의 기업이 규정 준수의 외형을 갖추려는 RAI 쇼를 벌이고 있으며, 진정한 역량을 구축하지 못하고 있다. CISO, AI 담당자, 법무 이사에게 이는 규정 준수 태세와 운영상 안전 사이의 격차를 드러낸다.
필요한 조치
RAI 프로그램의 깊이에 대한 솔직한 감사를 실시하세요. 정책과 교육에만 제한되어 있는가, 아니면 기술 평가, 레드팀 활동, 모델 문서화 관행이 마련되어 있는가? 보고서의 성숙도 프레임워크를 사용하여 AI 위험 관리 인프라의 특정 거버넌스 격차를 파악하세요.