무슨 일이 있었나
2026년 8월 12일부터 10월 29일까지, METR 직원들은 Anthropic에서 고수준 접근 평가를 수행했습니다(사전학습 및 RL 지표, 학습 컴퓨트, 내부 벤치마크 점수, AI 속도 향상 분석, 모델 예측, 직원 인터뷰/설문조사에 대한 접근 포함). 이는 AI가 AI R&D를 가속화하고 있는지 평가하기 위한 것이었습니다. METR은 Anthropic이 잘 정의된 작업에서 모델 능력을 2024년 3월–2025년 10월 대비 약 2배 속도로 향상시키고 있을 가능성이 높다고 결론지었습니다(불확실성 높음; 1.3배–3배 plausibility). 또한 2025년 10월 이후 벤치마크 점수가 2025년 10월 이전 대비 약 1.9배의 속도로 성장한 것으로 추정됩니다 [95% CI 1.5–2.8배] — '지난 1년 동안 약 2년의 역사적 진전'. METR은 이 가속화가 학습 컴퓨트 확장 때문이 아니라고 확신합니다. 가속화의 대부분은 AI 지원 R&D에 기인할 가능성이 높으며, 직원들은 극적인 향상을 자가 보고했습니다. METR은 향후 12개월 내에 상당한 병목 현상이나 강한 수확 체감의 증거를 발견하지 못했으며, 따라서 추가 가속화는 실제 위험입니다. 또한 Anthropic이 가장 정보성이 높은 증거의 대부분을 편집했기 때문에, 대중은 METR의 판단에 크게 의존해야 한다고 지적합니다.
왜 중요한가
이것은 프런티어 AI가 AI R&D를 스스로 가속화하고 있는지에 대한 최초의 고수준 접근 독립적 정량화입니다 — 통제 상실 위험 평가와 연구소 안전 프레임워크(RSP 임계값)가 순환적 능력 가속화를 보다 근시일의 노출로 취급해야 하는지에 대한 직접적인 입력입니다.
필요한 조치
이사회와 위험 위원회에 능력 가속화 가정에 대한 영향력을 브리핑하고, 내부 AI R&D 속도 향상이 더 이른 RSP/안전 임계값을 요구하는지 검토하십시오.