무슨 일이 있었나
보정된 게임 이론 모델은 경쟁하는 프런티어 연구소들이 연구를 제한하는 규칙 하에서보다 얼마나 더 빠르게 개발하는지 정량화합니다: "경쟁하는 세 연구소는 이륙 기간을 18개월에 통과하는 반면, 연구 공유에 대한 공통 규칙은 이를 69개월로 연장할 것입니다." 이 논문은 경주의 대부분을 상업적 리더십 경쟁('상금')에 기인하며, 할인이나 '위험 외부성' — 각 연구소가 자신의 속도가 추가하는 재앙 위험의 일부만 부담한다는 사실 — 때문이 아니라고 주장합니다. 그런 다음 이 모델을 2026년 9월 29일 백악관 초지능 협정(Google, Anthropic, Meta, OpenAI, xAI 및 Nvidia가 서명)에 적용하고, 협정이 안전성을 감사하지만 개발 속도에 제한을 두지 않기 때문에 "모델에서 경주를 늦추지 않는다"고 결론짓습니다. 또한 더 많은 연구소가 각 연구소의 경주 장벽을 높인다는 점과, 이상적인 형태의 오픈 소스가 연구소들을 조정된 속도로 늦춘다는 점을 발견합니다. 프리프린트로, 동료 검토를 거치지 않았습니다.
왜 중요한가
자발적 프런티어 안전 협정이 실제로 재앙 위험을 줄이는지 아니면 단지 재배치하는지에 대한 실질적인 질문에 직접적인 정보를 제공합니다. 이는 AI 기업 이사회와 정책 담당자가 약속을 설계할 때 저울질해야 할 질문입니다.
필요한 조치
경주 쐐기 및 연구소 수 발견 사항을 사용하여 조직의 프런티어 AI 약속이나 경쟁사 전략이 실제로 역량 경주를 늦추는지, 그리고 연구 공유에 대한 공통 제한이 필요한지 평가하십시오.