何が起きたか
Stanford HAIは、放射線科AI ツールのリアルタイム監視のためのフレームワークであるEnsemble Monitoring Model (EMM)を紹介する政策概要を発表しました。2025年12月時点で、放射線科AIはFDA認可のAI対応医療機器の約76%を占めていますが、ほとんどの展開システムには堅牢なパフォーマンス監視がありません。EMMは、プライマリAIモデルと5つの独立したサブモデルのアンサンブル間の一致を測定して、ブラックボックスモデルコンポーネントへのアクセスを必要とせずに不確実性を推定します。これは臨床的コンセンサス慣行に触発されています。脳出血検出に焦点を当てた大規模なデータセットを使用して、このフレームワークはEMMがケアの時点でリアルタイムでAIモデルの不確実性を特徴付け、精度低下でフラグが付けられたケースに対して適切な対応を指導することで、放射線科医の認知的負担を軽減できることを示しています。この概要は、継続的なパフォーマンス監視をヘルスケアにおける責任あるAI展開の核となるコンポーネントとして扱うべきだと主張しています。
なぜ重要か
ヘルスケアAIガバナンスは製品承認で終わることはできません。このフレームワークは、ベンダーの協力やプロプライエタリモデルの内部へのアクセスを必要としない臨床AIシステムの市販後監視のための実用的で展開可能な方法を提供します。これは、サードパーティのAIツールを監督する必要のある病院と医療システムにとって不可欠な可能性を実現します。政策立案者は、EMMのような方法をAI規制の全体的なライフサイクルの構成要素として見なすべきです。
必要な対応
病院のCIOと臨床情報学リーダーは、2026年第4四半期までに少なくとも1つの放射線科AIシステムでEMMスタイルの不確実性監視をパイロットし、展開後の監督ギャップについてボードにブリーフィングするべきです。