何が起きたか
MIT FutureTech(MIT SloanおよびCSAIL傘下)、クイーンズランド大学、IBM Research、スタンフォード、MIRI、国連大学を含む40以上の共同研究者とともに、AIリスク緩和リポジトリを公開しました。これは47のAIガバナンスおよびリスク管理フレームワークを体系的にレビューし、2,206件の提案されたAIセーフガードをカタログ化したもので、各項目には対象とするリスク、実施主体、ライフサイクル上のタイミング、リスク低減方法がタグ付けされています。緩和策のうちAIシステムに直接作用するものはわずか55%で、残りは組織プロセス、ガバナンス構造、公共政策、より広範な社会システムに対応しています。責任は開発者(約41%)、導入組織(約33%)、ガバナンス主体(約18%)に分散しています。重要なカバレッジのギャップは、自律エージェントの人間による監視、AI障害からの社会的回復力/復旧、計算リソースの管理に集中しており、それぞれ文書化された緩和策の2%未満です。一方、組織的説明責任は13.4%で最大のカテゴリです。272人の専門家からなるデルファイパネルは、競争力学と権力集中を2030年までに深刻または壊滅的な被害を引き起こす可能性が最も高い5つのリスクの一つとして評価しましたが、それらに対処する緩和記録はわずか15件です。チームはPRIMERという8項目の報告チェックリスト(緩和策、対象リスク、実施者、時期、手法)を導入し、一貫した名称を共有する記録はわずか3.4%であることを指摘しました。
なぜ重要か
これは、組織がAIリスクに対して実際に何ができるか、そしてカバレッジが最も薄い領域を示す、最も包括的な公開マップであり、一般的なガバナンス助言を繰り返すのではなく、AIリスクレジスターと保証プログラムを設計するために直接利用可能です。
必要な対応
PRIMER報告チェックリストを自社のAIリスク分類にマッピングし、既存のリスクレジスターを対象に、カバレッジが不足しているカテゴリ(エージェント監視、回復力、計算リソースガバナンス)を監査してください。