무슨 일이 있었나
2026년 10월 12일, RAND는 '재귀적 자기 개선 및 자동화된 AI 연구'(전문가 통찰 관점)를 발표하며, AI 시스템이 자신의 개선에 기여하는 실증적 현황을 검토했습니다. 이 보고서의 핵심 요지는 'AI는 이미 더 나은 AI를 만드는 데 기여하고 있다. 감독의 창은 줄어들고 있다'입니다. 여러 프론티어 연구소가 새 코드의 대부분이 AI로 생성된다고 보고하지만, 공개된 시스템 중 자신의 연구 의제를 설정하거나 자신의 후속 모델을 설계하는 시스템은 없습니다. RAND는 연구소가 하드웨어 공급업체나 정부에 자동화 비율, AI 주도 실험에 할당된 컴퓨팅 자원, 또는 모델 개선이 AI 생성 아이디어에 얼마나 기인하는지에 대해 체계적으로 보고하지 않는다는 점을 발견했으며, 민감한 코드·데이터·모델에 내부자 수준 접근 권한을 가진 AI 연구 시스템이 이미 보안 문제이며, 이들의 침해는 미래 모델 개발에 미묘한 영향을 미칠 수 있다고 경고했습니다. 또한 RSI 관련 활동을 분류하기 위한 분류 체계를 도입하고 다양한 개발 궤적 전반에서 잘 작동하도록 설계된 정책 옵션을 제안했습니다.
왜 중요한가
AI가 자체 개선을 가속화하는 데 얼마나 근접했는지, 그리고 그 궤적을 측정 불가능하게 만드는 투명성 격차에 대한 의사결정 수준의 프레임워크를 제공하며, 위험 허용도 및 감독 투자 결정에 관련됩니다.
필요한 조치
RSI 분류 체계를 읽고, 지금까지의 프론티어 연구소 투명성이 AI 능력 가속화에 대한 위험 평가 프로세스에 충분한지 평가하십시오.