지침  ·  2026-11-15

Paris Call for AI Safety and Security — 6개 정부와 10개 최첨단 AI 기업의 공동 선언

지침High 영향도France
2026년 11월 9일, 파리 평화 포럼에서 6개 정부, 10개 최첨단 AI 기업 및 여러 시민사회 단체가 비구속적 공동 선언인 '파리 AI 안전 및 보안 선언'에 서명했습니다(텍스트는 캐나다 총리실이 같은 날 공개). 이 선언은 세 가지 합의 영역과 세 가지 전략적 약속을 제시합니다: (1) 기존 프레임워크를 기반으로 한 공통 평가 및 위험 관리 프레임워크로, 오용(사이버 및 CBRN 위험 포함)과 자율성/정렬 오류/통제 상실에 초점을 맞춘 공통 기술 표준/도구를 포함; (2) 역할 기반 책임으로, 최첨단 개발사는 기능/한계/알려진 위험을 공개하고, 독립적인 제3자 평가를 지원하며, 안전한 종료 메커니즘을 구현하기로 약속하고, 정책 입안자는 대규모 피해에 대한 책임을 명확히 하기로 약속; (3) 정보 공유, 보고 및 조기 경고 — 심각한 사이버 및 AI 통제 사건에 대한 사건 분류 정렬 및 적시 정보 공유, 비밀 제보자 채널 포함. 이 선언은 추가 지지를 받을 수 있으며 마감 기한이 없습니다(서명국인 CeSIA를 포함한 비평가들은 공통 위험 기준, 보장된 테스터 접근권, 일정이 없다는 점을 지적합니다).
이것은 AI 보안 평가 및 사건 보고 표준에 대한 최신 다자간 수렴으로, 평가해야 할 위험 중 사이버 오용과 통제 상실을 명시적으로 언급합니다. 이는 공통 기술 표준, 표준화된 평가 보고 형식, 그리고 레드팀 프로토콜, 벤치마크 및 스트레스 테스트 결과의 공유 저장소 — AI 보안 실무의 핵심 요소 — 를 위한 방향을 제시합니다. 비구속적이지만, 이는 주요 최첨단 연구소와 6개국을 실무자들이 정렬해야 할 수 있는 공통 프레임워크에 구속하며, NAAIMES 평가 네트워크를 강화합니다.
후속 공동 평가/위험 관리 프레임워크와 표준화된 사건 분류 또는 평가 보고 형식이 등장하는지 모니터링하십시오; 선언의 평가 및 사건 보고 약속을 귀하의 AI 거버넌스 및 레드팀 프로그램에 매핑하여, 귀하의 관할권이나 고객이 지지할 경우 정렬할 준비를 하십시오.
Joint declaration on Paris call for AI safety and security (full text via CNW)Paris Call on AI Safety and Security Explained (CASRAI)
라이브 피드에서 보기 AI 보안 및 거버넌스 관련 소식을 더 살펴보세요 — 매일 아침 업데이트.
피드 열기 →