Apa yang terjadi
Partnership on AI menilai empat kerangka kerja agen yang banyak digunakan terhadap enam tujuan pemantauan dan menemukan titik buta sistematis dalam telemetri yang dipancarkan oleh agen, dengan peringatan bahwa 'infrastruktur untuk memantau agen belum ada secara andal, meskipun para pembuat kebijakan mengasumsikannya sudah ada.' Laporan ini mengidentifikasi enam kesenjangan telemetri — identitas agen yang persisten, perubahan mode izin, perubahan memori, intervensi manusia, penalaran rantai-pemikiran, dan probabilitas log tingkat token — yang 'membuat perusahaan tidak mampu menelusuri otoritas agen secara andal, bagaimana otoritas itu berubah, dan mengapa agen bertindak seperti yang dilakukannya.' Laporan ini berpatokan pada insiden OpenAI-Hugging Face Juli 2026, di mana OpenAI 'tidak mendeteksi intrusi selama hampir seminggu,' dan merekomendasikan penutupan kesenjangan tersebut dengan meminta perusahaan AI secara formal mengadopsi standar OpenTelemetry, dengan tindakan terkoordinasi dari pengembang kerangka kerja, penyedia model, perusahaan, dan regulator.
Mengapa penting
Ketika bank, perusahaan asuransi, dan perusahaan menerapkan agen otonom di lingkungan produksi, hal ini memberi para CISO dan eksekutif teknologi sebuah daftar periksa yang konkret dan berbasis bukti mengenai sinyal observabilitas yang harus dipancarkan oleh platform agen mereka sebelum dapat dipantau, diaudit, atau dimintai pertanggungjawaban — serta sebuah standar yang disebutkan namanya (OpenTelemetry) yang dapat dituntut dari vendor.
Tindakan yang diperlukan
Audit penerapan agen Anda terhadap enam kesenjangan telemetri dan minta vendor kerangka kerja/model untuk memancarkan catatan identitas persisten, perubahan izin, perubahan memori, dan intervensi; evaluasi adopsi OpenTelemetry sebagai lapisan sinyal bersama.