무슨 일이 있었나
미국 사이버보안기반시설보안청(CISA)이 호주의 호주신호국(ASD), 캐나다 사이버보안센터, 뉴질랜드 국가사이버보안센터, 영국 국가사이버보안센터(NCSC)와 협력하여 agentic AI 시스템의 설계, 개발 및 배포 지침을 제시하는 공동 권고안을 발표했다. 이 권고안은 최소 권한 원칙의 엄격한 준수, 지속적인 모니터링 및 감시, 비민감 작업에 대한 인간 개입 제어, DevSecOps 기본 원칙에 따른 안전한 개발 관행, 정기적인 사고 대응 테스트를 의무화한다.
왜 중요한가
이는 agentic AI 보안을 구체적으로 대상으로 하는 첫 번째 조정된 다국가 지침이다. 이 권고안은 prompt injection, 도구 오용, 권한 확산, 신원 스푸핑, 에이전트 사칭을 명시적으로 다루고 있으며, 이는 기존 애플리케이션 보안 모델이 처리하도록 설계되지 않은 공격 벡터들이다. CISA의 에이전트(사용자뿐만 아니라)에 대한 최소 권한 강조와 지속적인 감시는 AI 에이전트가 분산 시스템에서 기계 속도로 운영되어 정적 신뢰 경계로 보안하기 어렵다는 점에 대한 증가하는 인식을 반영한다. 이러한 제어를 구현하지 않고 에이전트를 배포하는 조직은 공격자에게 상승된 권한을 가진 지속적이고 자동화된 진입점을 제공할 위험이 있다.
필요한 조치
CISO들은 배포된 모든 AI 에이전트의 인벤토리를 수행하여 각 에이전트가 접근할 수 있는 데이터, 도구 및 시스템을 문서화해야 한다. 각 작업에 필요한 최소한의 에이전트 권한으로 제한하는 최소 권한 정책을 구현한다. 기만적인 에이전트 행동, 비정상적인 API 호출 또는 범위 확산을 플래그하기 위한 지속적인 모니터링을 수립한다. 도구 사용 기능이 있는 에이전트(예: MCP 서버, LangChain 도구)의 경우, 인프라를 수정하거나 민감한 데이터에 접근하거나 코드를 실행하는 작업에 대해 인간 승인을 적용한다. agentic AI 손상 시나리오에 대해 사고 대응 계획을 구체적으로 검토하고 테스트한다.