強力な安全性評価の構築

Anthropicは2026年11月13日に『強力な安全性評価の構築』を公開した。これは、AI安全性評価の設計、実施、報告に関する方法論の論文である。心理学の再現性改革とAnthropic自身のシステムカードの経験に基づき、「安全性の主張は、その背後にある評価と同じ程度にのみ確実である」と主張し、「研究者たちは繰り返し、AI評価は簡単にゲームされやすく、必ずしも測定しようとしているものを測定しておらず、再現可能なほど十分に文書化されていないことを発見している」と警告している。観察的評価設計と因果的評価設計を区別し、構成概念妥当性（例えば、自傷行為の会話では「拒否」がしばしば誤った構成概念である）を強調し、学際的チーム、事前登録、リアルタイム監視を備えたサンドボックス実行、およびより厳密な報告を推奨している。

安全性評価は展開判断と規制上の主張の両方を支えるものであり、これは主要なフロンティア研究所による、それらを信頼できるものにするための実践的ガイダンスである — AI安全性評価プログラムを構築または監査するすべての人に直接関連する。

自社のモデル／調達安全性評価手法を、Anthropicの推奨する構成概念妥当性、因果的設計、評価報告に関する推奨事項と照らし合わせてマッピングすること。