정의
정부 또는 고위험 환경에 배포되는 모든 자율 AI 에이전트는 AI 자체가 아닌 인간이 집행하는 즉각적인 중지, 일시 중단 또는 조치 무효화를 위한 신뢰할 수 있는 메커니즘을 보유해야 한다는 규제 요건이다. 호주 정부 AI 플레이북과 기타 여러 신흥 프레임워크가 이를 이제 협상 불가능한 아키텍처 기능으로 의무화하고 있다.
왜 중요한가
AI 에이전트가 예약, 구매, 기록 수정, 시스템 제어 등 자율 조치를 취할 때, 신뢰할 수 있는 중지 메커니즘이 없으면 인간이 개입하기 전에 오류나 공격이 복합적으로 발생할 수 있다. 규제 당국은 킬 스위치를 선택적 기능이 아닌 최소한의 안전 기준선으로 취급하기 시작했다.