Apa yang terjadi
Kelompok kerja Risiko & Keandalan AI MLCommons menerbitkan/memperbarui (halaman tertanggal 30 September 2026) alur kerja Privasi dan Kerahasiaan yang inisiatif utamanya adalah (1) Taksonomi Risiko Privasi dan Kerahasiaan bersama untuk menggambarkan risiko privasi dalam penerapan AI agenik dan (2) Tolok Ukur Privasi 2027 yang direncanakan untuk mengukur seberapa baik agen AI memitigasi risiko privasi yang diketahui, mencakup minimalisasi data oleh agen otonom dan pengurangan memorisasi/rekall dalam pelatihan model.
Mengapa penting
Saat ini tidak ada kerangka standar untuk mengukur risiko privasi dalam AI frontier dan agenik. MLCommons — badan di balik tolok ukur standar industri MLPerf — membangun taksonomi risiko terbuka dan tolok ukur privasi agenik memberikan pemerintah dan perusahaan baseline pengukuran yang netral terhadap vendor, melengkapi kerangka kontrol NIST/OWASP.
Tindakan yang diperlukan
Organisasi yang menerapkan AI agenik harus memantau taksonomi dan hasil tolok ukur; praktisi keamanan dan privasi dapat bergabung dengan kelompok kerja dan memberikan persyaratan tentang minimalisasi data agen dan risiko memori/rekall.