무슨 일이 있었나
Anthropic의 Frontier Red Team은 전술 정보 타게팅(예: 단편적인 정보로부터 사람 위치 파악)과 재래식 무기 개발(예: 움직이는 표적을 타격할 드론 엔지니어링)에서 AI 역량을 측정하는 새로운 평가를 발표했습니다. 핵심 발견: '군사 및 정보 영역의 일부 작업의 경우, 모델이 역사적으로 희소하고 고도로 훈련된 인간 전문가 집단만이 할 수 있던 일들을 수행할 수 있습니다.' 소셜 미디어 신원 상관 시나리오(WhatsApp, Telegram, Instagram, Facebook)에서 200개의 시뮬레이션된 작업 파이프라인을 사용하여, 팀은 최첨단 모델이 '찾기, 고정, 추적, 타게팅' 킬 체인 작업에서 일관된 진전을 이루고 있음을 발견했습니다. 중국 개발자의 공개 가중치 모델은 최첨단보다 뒤쳐지지만 여전히 '적대자를 식별 및 타게팅하고 무기 성능을 개선할 수 있는 우려할 만한 능력'을 보였습니다. Anthropic은 이것이 그러한 오용을 차단하기 위한 새로운 플랫폼 분류기를 동기부여했다고 명시합니다.
왜 중요한가
방위 및 정보 관련 엔터프라이즈 및 정책입안자는 희소 인간 전문지식이 필요한 군사/정보 작업 대 현재 최첨단 및 심지어 2급 공개 가중치 모델이 이제 근사할 수 있는 것에 대한 가정을 재보정해야 합니다.
필요한 조치
플랫폼 보안조치 및 수출 규제 태세를 평가할 때 국가 안보 및 방위 부문 클라이언트에게 AI 활성화 타게팅 및 무기 개발 작업에 대한 변화하는 역량 하한선을 공지하십시오.