Apa yang terjadi
Stanford HAI menerbitkan ringkasan kebijakan yang memperkenalkan Ensemble Monitoring Model (EMM), sebuah kerangka kerja untuk pemantauan real-time alat-alat radiologi berbasis AI. AI radiologi mencakup sekitar 76% dari perangkat medis yang diaktifkan AI yang berwenang FDA pada Desember 2025, namun sebagian besar sistem yang diterapkan tidak memiliki pemantauan kinerja yang kuat. EMM mengukur kesepakatan antara model AI utama dan ensemble dari lima submodel independen untuk memperkirakan ketidakpastian tanpa memerlukan akses ke komponen model kotak hitam, terinspirasi oleh praktik konsensus klinis. Menggunakan dataset besar yang berfokus pada deteksi perdarahan otak, kerangka kerja ini menunjukkan bahwa EMM dapat mengurangi beban kognitif radiolog dengan mencirikan ketidakpastian model AI secara real-time di titik perawatan dan memandu respons yang tepat ketika kasus ditandai untuk akurasi yang berkurang. Ringkasan ini berpendapat bahwa pemantauan kinerja berkelanjutan harus diperlakukan sebagai komponen inti dari penerapan AI yang bertanggung jawab dalam layanan kesehatan.
Mengapa penting
Tata kelola AI kesehatan tidak dapat berhenti di persetujuan produk. Kerangka kerja ini menyediakan metode yang praktis dan dapat diterapkan untuk surveilans pasca-pasar sistem AI klinis yang tidak memerlukan kerja sama vendor atau akses ke internals model kepemilikan—pengaktif kritis untuk rumah sakit dan sistem kesehatan yang harus mengawasi alat-alat AI pihak ketiga. Pembuat kebijakan harus memandang metode seperti EMM sebagai komponen dari regulasi AI siklus hidup total.
Tindakan yang diperlukan
CIO rumah sakit dan pemimpin informatika klinis harus menjalankan pemantauan ketidakpastian gaya EMM pada setidaknya satu sistem AI radiologi pada kuartal ke-4 2026 dan memberikan informasi kepada dewan tentang kesenjangan pengawasan pasca-penerapan.