무슨 일이 있었나
약 2026-09-23에 CETaS(신흥 기술 및 안전 센터, 영국 Alan Turing Institute 소속)는 Prof. Rick Hennessy와 Dr. Carolyn Ashurst가 작성한 에이전틱 AI의 행동 보증을 위한 사회기술적 프레임워크를 제안하는 논문을 발표했다. 이 논문은 개별 에이전트, 다중 에이전트 시스템 및 인간-에이전트 상호작용을 포괄하는 행동 실패 모드 분류 체계를 도입하고, 에이전트 행동을 조직적 피해로 전환시키는 세 가지 요소로 접근/권한/신뢰를 식별하며, 일곱 가지 행동 보증 원칙을 제시한다. 상세한 운영 보고서는 추후 발간 예정으로 표시되었다.
왜 중요한가
이는 영국 국가 연구소 프로젝트의 첫 번째 간행물로, 민감/고위험 조직(정부, 중요 부문)이 모델 평가를 넘어 에이전트 행동을 보증하기 위한 어휘를 제공한다. '에이전트는 행동하지만 개발자는 늦게 탐지한다'는 사고 패턴을 보완하고 영국 보증 및 거버넌스 프레임워크에 기여한다.
필요한 조치
고위험 영국/규제 환경에서의 CISO 및 AI 거버넌스 팀은 에이전틱 AI 감독 및 개입 통제 범위를 정할 때 실패 모드 분류 체계와 접근/권한/신뢰 렌즈를 사용해야 한다.