무슨 일이 있었나
2026년 10월 12일, Kanishka Narayan AI 장관과 Liz Lloyd 사이버 장관은 AI 위험으로부터 영국을 보호하기 위한 일련의 조치를 발표했다: 이미 1,000개 이상의 취약점을 발견하고 수정한 프런티어 AI 사이버 방어 파일럿 확대; 필수 서비스(병원, 유틸리티)가 자율 에이전트가 인간의 감독을 회피하는 'AI 통제 상실'을 포함한 AI 특정 위험으로부터 보호되도록 Cyber Security and Resilience Bill 및 광범위한 체제 강화 검토; 자율 AI 에이전트와 관련된 중대 사고 대비를 위한 새로운 작업(NCSC 및 AI 보안 연구소와 협력); AI 보안 연구소가 최신 세대 모델에 대한 엄격한 평가를 수행하고 있음을 확인. 장관은 연구소들이 과학자들의 의견을 듣고, 예상치 못한 행동을 조사하며, 통제할 수 없는 시스템을 출시하지 말라고 경고했다.
왜 중요한가
이는 AI 사고 보고와 통제 상실 위험이 중요 인프라 사이버 체제로 입법화되고 있음을 보여주는 영국 정부의 가장 명확한 신호로, AI 기반 필수 서비스 운영자에게 보고형 의무를 확대한다. 복원된 영국 AISI의 미국 프런티어 모델 접근과 결합하여, AI 사고 공개를 형성 중인 영국 규제 의무로 자리매김하고 AI 배포자와 중요 인프라 운영자가 Cyber Bill 통과 과정에서 추적해야 할 전사회적 복원력 태세를 시사한다.
필요한 조치
AI 및 에이전트 시스템을 배포하는 영국 중요 인프라/필수 서비스 운영자는 Cyber Security and Resilience Bill에 따른 AI 특정 사고 보고 및 아차사고 보고 의무에 대비해야 하며, AI 검증 지원 및 Cyber Bill 개정에 대한 정부의 향후 세부 사항을 모니터링해야 한다.