무슨 일이 있었나
2026년 11월 9일, 파리 평화 포럼에서 6개 정부, 10개 최첨단 AI 기업 및 여러 시민사회 단체가 비구속적 공동 선언인 '파리 AI 안전 및 보안 선언'에 서명했습니다(텍스트는 캐나다 총리실이 같은 날 공개). 이 선언은 세 가지 합의 영역과 세 가지 전략적 약속을 제시합니다: (1) 기존 프레임워크를 기반으로 한 공통 평가 및 위험 관리 프레임워크로, 오용(사이버 및 CBRN 위험 포함)과 자율성/정렬 오류/통제 상실에 초점을 맞춘 공통 기술 표준/도구를 포함; (2) 역할 기반 책임으로, 최첨단 개발사는 기능/한계/알려진 위험을 공개하고, 독립적인 제3자 평가를 지원하며, 안전한 종료 메커니즘을 구현하기로 약속하고, 정책 입안자는 대규모 피해에 대한 책임을 명확히 하기로 약속; (3) 정보 공유, 보고 및 조기 경고 — 심각한 사이버 및 AI 통제 사건에 대한 사건 분류 정렬 및 적시 정보 공유, 비밀 제보자 채널 포함. 이 선언은 추가 지지를 받을 수 있으며 마감 기한이 없습니다(서명국인 CeSIA를 포함한 비평가들은 공통 위험 기준, 보장된 테스터 접근권, 일정이 없다는 점을 지적합니다).
왜 중요한가
이것은 AI 보안 평가 및 사건 보고 표준에 대한 최신 다자간 수렴으로, 평가해야 할 위험 중 사이버 오용과 통제 상실을 명시적으로 언급합니다. 이는 공통 기술 표준, 표준화된 평가 보고 형식, 그리고 레드팀 프로토콜, 벤치마크 및 스트레스 테스트 결과의 공유 저장소 — AI 보안 실무의 핵심 요소 — 를 위한 방향을 제시합니다. 비구속적이지만, 이는 주요 최첨단 연구소와 6개국을 실무자들이 정렬해야 할 수 있는 공통 프레임워크에 구속하며, NAAIMES 평가 네트워크를 강화합니다.
필요한 조치
후속 공동 평가/위험 관리 프레임워크와 표준화된 사건 분류 또는 평가 보고 형식이 등장하는지 모니터링하십시오; 선언의 평가 및 사건 보고 약속을 귀하의 AI 거버넌스 및 레드팀 프로그램에 매핑하여, 귀하의 관할권이나 고객이 지지할 경우 정렬할 준비를 하십시오.