Apa yang terjadi
Pada 28 September 2026, NVIDIA mengumumkan Open Agent Safety Platform: NVIDIA OpenShell (secure runtime open-source Apache 2.0 yang menyediakan isolasi tingkat kernel, kebijakan terverifikasi, dan pelacakan aksi untuk agen yang berjalan pada CPU NVIDIA Vera, dapat diperluas ke Arm/Intel) dan NVIDIA Sentry, watchdog out-of-band yang berjalan pada BlueField-4 DPU yang mengkarantina agen yang meninggalkan batasnya dalam hitungan milidetik menggunakan deteksi ancaman in-silicon berbasis DOCA, telemetri terattestasi, verifikasi identitas, dan kebijakan akses zero-trust yang granular. NVIDIA secara bersamaan menerbitkan panduan rekayasa blog pengembang 'Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent Monitoring' yang menetapkan lima prinsip inti (kebijakan terverifikasi, penegakan out-of-band, jalur model sebagai titik kontrol/saklar pemutus, penskalaan otoritas dengan keterinspeksian penalaran, model tanggung jawab bersama) dan arsitektur tiga lapis aplikasi/runtime/infrastruktur. Mitra termasuk Anthropic (integrasi Claude Managed Agents), Cisco, Microsoft, Oracle, CrowdStrike, JPMorganChase, Palantir, Palo Alto Networks, Scale AI, ServiceNow, dan lainnya.
Mengapa penting
Ini adalah pendekatan yang secara material baru untuk keamanan agen: menegakkan batas di luar lingkungan eksekusi model dan di perangkat keras, membuat kebijakan dapat diverifikasi sebelum dijalankan, dan memberi pembela saklar pemutus di jalur pemanggilan model. Ini merespons langsung insiden breakout 2026 (termasuk paparan Hugging Face yang dilaporkan) dan mendefinisikan pola referensi rekayasa yang akan dibangun oleh pesaing dan badan standar (CSA sudah memetakannya ke AARM). Bahkan sebagai output vendor, runtime open-source dan prinsip yang diterbitkannya kini berfungsi sebagai panduan de-facto untuk kontrol AI agen-generatif dalam skala besar.
Tindakan yang diperlukan
Evaluasi OpenShell/Sentry (atau penegakan out-of-band yang setara) untuk beban kerja agen berjalan lama; adopsi lima prinsip (penegakan out-of-band, saklar pemutus jalur model, verifikasi kebijakan, penalaran terinspeksi) dalam keputusan arsitektur keamanan agen; perlakukan kebijakan dan ketertelusuran runtime agen sebagai persyaratan desain-waktu daripada pemantauan setelah fakta.