Apa yang terjadi
Diterbitkan 9 Nov 2026 (metadata dokumen), dari RegLab Stanford HAI. Cetak biru kebijakan ini menguraikan bagaimana lembaga pemerintah dapat memverifikasi keandalan alat AI dalam layanan publik berisiko tinggi. Argumen utamanya adalah bahwa 'metode evaluasi AI yang umum tidak memadai untuk membantu pemerintah mengevaluasi alat AI dalam praktik' dan bahwa lembaga sudah memiliki 'tolok ukur tersembunyi' — catatan administratif kinerja tugas masa lalu yang dapat dirilis untuk mengukur dan mendorong kemajuan AI. Laporan ini merekomendasikan agar lembaga mewajibkan evaluasi pihak ketiga sebagai syarat pengadaan, menjalankan uji A/B acak saat sistem diterapkan, dan berkolaborasi dengan universitas untuk keahlian independen yang hemat biaya. Laporan ini membedakan dua kategori risiko — risiko keselamatan (alat dimanipulasi/diserang; sistem agen yang bertindak pada data pemerintah) dan risiko kinerja (kegagalan memberikan manfaat yang diinginkan) — dan mengutip skala penerapan: 'Pada tahun 2025 saja, 56 lembaga federal melaporkan 3.611 kasus penggunaan AI individual dalam operasi pemerintah, peningkatan 69% dari tahun sebelumnya.'
Mengapa penting
Pemerintah adalah salah satu pengguna AI terbesar dan tercepat pertumbuhannya, dan ini adalah buku pedoman pengadaan dan evaluasi yang konkret untuk cabang eksekutif yang juga menandakan ke mana standar verifikasi pihak ketiga kemungkinan akan mengarah — relevan langsung bagi setiap vendor yang menjual AI ke sektor publik.
Tindakan yang diperlukan
Untuk pimpinan jaminan AI sektor publik dan perusahaan: uji apakah pengadaan Anda mengontrakkan AI pada evaluasi pihak ketiga yang independen dan apakah Anda dapat memanfaatkan 'tolok ukur tersembunyi' dalam data administratif atau operasional Anda sendiri.