何が起きたか
2026年10月12日、RANDは「再帰的自己改善と自動化されたAI研究」（専門家洞察の視点）を発表し、AIシステムが自身の改善に貢献しているという実証的な現状を調査した。この論文の見出しは「AIはすでにより良いAIの構築を支援している。監督のための窓口は縮小しつつある」というものである：複数のフロンティア研究所が、新しいコードの過半数がAI生成であると報告しているが、自らの研究アジェンダを設定したり、自らの後継を設計したりするシステムは開示されていない。RANDは、研究所からハードウェアベンダーや政府への、自動化の割合、AI主導の実験に割り当てられた計算資源、モデルの改善がAI生成のアイデアにどれだけ起因しているかに関する体系的な報告が存在しないことを指摘し、機密性の高いコード、データ、モデルへのインサイダーレベルのアクセスを持つAI研究システムはすでにセキュリティ問題であり、その侵害が将来のモデルの開発に巧妙に影響を与え得ると警告している。また、RSI関連活動を分類するためのタクソノミーを導入し、さまざまな開発軌道にわたって良好に機能することを意図した政策オプションを提案している。
なぜ重要か
AIが自身の改善を加速させることにどれだけ近づいているか、そしてその軌道を測定不能にしている透明性のギャップについて、意思決定に資する枠組みを提供する—リスク許容度と監督への投資判断に関連する。
必要な対応
RSIタクソノミーを読み、フロンティア研究所のこれまでの透明性が、AI能力加速に関するリスク評価プロセスにとって十分であるかを評価すること。