Apa yang terjadi
Dirilis 1 Juli 2026, NeMo Guardrails v0.23.0 memperluas pemanggilan alat IORails untuk mencakup permintaan streaming dan non-streaming. Rail lokal baru dapat memvalidasi panggilan alat yang dipancarkan model dan hasil alat yang dikembalikan aplikasi sebelum mereka menyebar melalui pipeline agen. Rilis juga memperluas instrumentasi observabilitas dalam arsitektur IORails.
Mengapa penting
Validasi pemanggilan alat streaming menutup kesenjangan cakupan dalam penegakan guardrail untuk pipeline agentic real-time — sebelumnya, jalur streaming melewati pemeriksaan rail yang hanya berlaku untuk penyelesaian non-streaming. Ini adalah kerangka kerja guardrail OSS utama untuk penyebaran agen berbasis NVIDIA NIM.
Cakupan penerapan
Tim yang membangun pipeline agentic pada NVIDIA NIM atau backend LLM yang kompatibel dengan OpenAI apa pun; tingkatkan segera jika menggunakan IORails dengan beban kerja streaming atau pemanggilan alat.