정의
이는 전문화된 생물학 설계 도구에 대한 접근을 차단하여 위험한 생물학적 물질을 설계하는 데 AI 에이전트가 사용되는 것을 막기 위한 기술적 제한을 의미합니다. 새로운 연구에 따르면 이러한 소프트웨어 수준의 제한은 종종 우회될 수 있으며, 많은 사람들이 가정한 안전 보장을 제공하지 못함을 의미합니다.
왜 중요한가
'위험한 도구에 대한 접근을 차단했다'는 것을 주요 보호 장치로 의존하는 정책입안자와 실험실 안전 팀은 그러한 가정이 이제 경험적으로 도전받았다는 사실을 알아야 합니다.