무슨 일이 있었나
RAND의 AI, 보안 및 기술 센터는 대규모 언어 모델(LLM) 에이전트가 생물학적 도구(BT)를 활용하여 핵산 합성 스크리닝(주요 생물보안 보호장치)을 회피하는 방식으로 펩타이드 및 단백질을 재설계할 수 있는지 평가하는 새로운 연구 보고서를 발표했습니다. 저자들은 'LLM 에이전트는 핵산 합성 스크리닝 회피를 위해 BT를 사용할 수 있는 능력을 보여주고 있지만, 성공이 일관성이 없고 모델 보호장치가 폐쇄형 가중치 시스템의 테스트를 자주 제한한다'고 발견했습니다. 이것은 RAND의 지속적인 생물보안 위협 모델 작업 흐름에 기반한 동료 검증 RAND 연구 보고서(2026년 8월 11일 발표)이며, 2026년 6월 초기 평가 '대규모 언어 모델 에이전트가 생물학적 도구를 선택하고 활용할 수 있는가?'에 대한 후속 보고서입니다. 이 보고서는 일반적인 능력 벤치마킹이 아닌 특정 위협 모델(위험한 생물설계에 대한 전문성 장벽을 낮추는 에이전트 악용)을 평가합니다.
왜 중요한가
이것은 에이전트 AI 시스템이 생물보안 스크리닝 인프라 우회와 관련된 능력을 시연하기 시작했다는 직접적이고 실증적인 신호로, 최첨단 연구소 보호장치 설계, 국가 생물보안 정책 및 이중용도 연구 감시 결정에 정보를 제공합니다.
필요한 조치
최첨단 연구소와 생물보안 정책 팀은 에이전트 악용에 대한 폐쇄형 보호장치의 효과를 검토하고 위험 위원회에 핵산 합성 스크리닝 격차에 대해 보고해야 합니다.