무슨 일이 있었나
RAND의 AI, 보안 및 기술 센터는 생물무기 개발 경로 전체를 아이디어 단계부터 무기화 단계까지 매핑하고, AI가 생물무기 개발의 기술적, 운영적, 동기적 장벽을 어떻게 낮추고 있는지 평가합니다. 이 보고서는 세 가지 범주에 걸친 9가지 개입으로 구축된 심층 방어 전략을 제안합니다: 위험한 정보와 AI 도구에 대한 접근을 제한하는 3가지(오픈소스 모델 보안, 민감한 AI 시스템에 대한 관리 접근 프로그램), 생물학적 전구물질 검사를 확대하는 1가지, 억제력을 목표로 하는 3가지(조기 경보, 속성 파악, 빠른 발병 대응), 실시간 모니터링과 조직 간 경고 신호 공유를 통한 오용 탐지에 중점을 두는 2가지입니다. 주저자 Steph Guerra는 "오늘날의 보안 조치는 회사, 정부 및 국가에 걸쳐 분산되어 있으며 함께 작동하도록 설계되지 않았습니다"라고 명시하며, 이 보고서는 단일 개입이 결정력 있고 자원이 풍부한 행위자를 막을 수 없기 때문에 상호 강화하는 계층화된 보안 조치가 필요하다고 주장합니다. 또한 미국이 단독으로 행동할 경우 여러 완화 조치의 효과가 감소하므로, 국제 조정과 정부-산업 협력이 필수적이라는 것을 발견했습니다.
왜 중요한가
이는 이사회, 국가안보 정책 입안자, AI 연구소 안전 팀에 특정 지점 보안 조치에 의존하기보다는 AI 지원 생물무기 위험에 대한 생물보안 투자를 평가하고 우선순위를 지정하기 위한 체계적인 프레임워크를 제공합니다.
필요한 조치
기존 AI 생물보안 보안 조치(모델 접근 제어, 전구물질 검사, 모니터링)를 RAND의 9가지 완화 프레임워크에 대비하여 매핑하여 범위 공백과 정부 및 산업 파트너와의 조정 요구사항을 파악합니다.