Solusi  ·  2026-11-20

NVIDIA NeMo Guardrails 0.25.0 menambahkan pemeriksaan panggilan alat agen, server hooks untuk Claude Code/Codex, dan Gateway API model

SolusiMedium dampakGlobal
NeMo Guardrails 0.25.0 (dirilis 19 November 2026) menambahkan pemeriksaan eksplisit untuk panggilan alat dan hasil alat dengan tool_violations terstruktur, server hooks yang menjalankan pemeriksaan pra-penggunaan alat melalui hook Claude Code dan Codex yang dikonfigurasi serta plugin NeMo Relay (dengan allowlist dan blocklist alat/argumen), dan Gateway NeMo Guardrails eksperimental yang menerapkan pemeriksaan input/output di sekitar API model yang ada (OpenAI Chat Completions/Responses yang di-buffer dan streaming, serta dialek LiteLLM tertentu). Ini juga menambahkan keamanan per-alat yang dinilai oleh LLM, ekspresi CEL untuk pemeriksaan argumen/hasil per-alat, pemfilteran input berbasis bahasa, dan memulihkan moderasi Zscaler AI Guard.
Ini memperluas kerangka kerja guardrails sumber terbuka dari pemfilteran prompt/output ke lapisan agen — mencegat dan menilai panggilan alat agen dan hasilnya sebelum eksekusi di tiga runtime agen coding utama, dan menyediakan gateway untuk membungkus API model yang ada. Ini secara langsung menangani penyalahgunaan alat agen dan risiko rantai pasokan, yang merupakan permukaan ancaman baru yang dominan.
Tim platform/keamanan yang membangun atau mengoperasikan AI agen (Claude Code, Codex, NeMo Relay) yang memerlukan gerbang alat pra-eksekusi dan pembungkusan API model. Evaluasi sekarang untuk guardrails panggilan alat dan gateway; perhatikan bahwa gateway eksperimental terbatas pada satu input teks pengguna dan satu output teks asisten per profil.
NeMo Guardrails v0.25.0 release notes (GitHub)
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →