临床AI实时监控的运营化

Stanford HAI发布了一份政策简报，介绍了集成监控模型(EMM)，这是一个用于放射学AI工具实时监控的框架。截至2025年12月，放射学AI约占FDA授权的AI医疗设备的76%，但大多数已部署的系统缺乏强大的性能监控。EMM通过测量主要AI模型与五个独立子模型集成之间的一致性来估计不确定性，无需访问黑盒模型组件，其灵感来自临床共识实践。使用专注于脑出血检测的大型数据集，该框架证明EMM可以通过在护理点实时表征AI模型不确定性来减轻放射科医生的认知负担，并在案例因准确性降低而被标记时指导适当的响应。该简报认为，持续性能监控应被视为医疗保健中负责任AI部署的核心组成部分。

医疗保健AI治理不能止步于产品批准。该框架为临床AI系统的市场后监管提供了一种实用、可部署的方法，不需要供应商合作或访问专有模型内部结构——这对于必须监督第三方AI工具的医院和卫生系统来说是一个关键推动因素。政策制定者应将EMM等方法视为全生命周期AI监管的组成部分。

医院CIO和临床信息学领导者应在2026年第四季度之前在至少一个放射学AI系统上试点EMM式不确定性监控，并向董事会汇报部署后监督缺口。