무슨 일이 있었나
거버넌스 AI(옥스퍼드)는 AI R&D 자동화가 '지능 폭발'을 촉발할 가능성에 대한 연구 논문을 발표했으며, 이는 "수년간의 AI 발전을 몇 개월 이하로 압축"할 수 있다고 본다. 이 논문은 가속화되는 증거를 인용한다: "2026년 8월 기준, Anthropic은 AI 시스템이 높은 수준의 감독만으로 내부 AI R&D 작업의 26%를 완료했다고 보고했으며, 이는 5개월 전의 1%에 비해 증가한 수치다." OpenAI도 유사하게 시스템이 수일이 걸리는 R&D 작업을 완료했다고 보고했다. 이 논문은 이러한 폭발이 극단적 이점과 극단적 위험 — AI 기반 팬데믹, 핵심 인프라에 대한 사이버 공격, 노동 붕괴, 인간 통제를 벗어나는 시스템 — 을 가져올 수 있다고 주장하며, 정책 입안자들에게 R&D 자동화에 대한 가시성(내장 감사자, 지표 보고), 가속화를 조종하고 제약할 메커니즘(속도 제한, 에어갭 보안 환경, 사고 공유, 협정), 그리고 사회적 대비를 최우선으로 할 것을 촉구한다.
왜 중요한가
자동화된 AI R&D / '지능 폭발' 위험에 대한 현재 가장 명확한 표현 중 하나이며, 정부를 위한 구체적 감독 의제를 제시한다 — 실존적 위험 주장과 R&D 거버넌스 정책을 평가하는 모든 리더십에게 중요한 자료다.
필요한 조치
정책 및 위험 리더십에 가시성/조종/대비 권고사항을 숙지시키고, R&D 자동화 지표를 상황 인식에 반영하라.