무슨 일이 있었나
영국 외무·영연방개발부의 의뢰로 작성된 동료 검토를 거친 RAND 연구 보고서는 AI 기반 군사 및 핵심 인프라 시스템을 교란, 거부, 또는 조작하는 공격이 제대로 관리되지 않는 전략적 안정성 위험이라고 주장한다. 핵심 발견은 다음과 같다: "정부는 적대적 AI를 단순한 사이버 보안이나 AI 보증 문제가 아닌 전략적 안정성 위험으로 취급해야 한다." 이 연구는 다섯 가지 시나리오를 분석하며, 적대적 AI가 공격-방어 균형을 기울일 수 있고, 모델 오류와 의도적 공격 사이의 모호성이 오판 위험을 창출하며, 재래식 및 핵 C3의 얽힘이 확전 위험을 높인다는 것을 발견했다. 또한 이 문제를 국제 포럼, 동맹국의 위협 정보 공유, 사후 검토, 그리고 AI 기반 군사 및 NC3 시스템의 견고한 설계에 포함할 것을 권고한다.
왜 중요한가
적대적 AI를 기술적 사이버 문제에서 억제 및 위기 안정성 문제로 재구성한다 — 국가 안보 전략과 국방 또는 핵심 인프라 고객을 대상으로 하는 모든 기업에 직접적으로 관련된 사항이다.
필요한 조치
보안 및 정무 리더십에 전략적 안정성 프레임워크를 브리핑하고, AI 보증 통제를 복구, 귀인, 그리고 폴백 계획과 정렬하라.