Solusi  ·  2026-10-18

NVIDIA garak v0.17.1 menambahkan metrik tingkat keberhasilan serangan hit@k

SolusiLow dampakGlobal
garak v0.17.1 (16 Okt) menambahkan metrik tingkat keberhasilan serangan hit@k, diekspos per pasangan probe/detektor di output terminal dan entri ringkasan akhir report.json.
Memberi tim yang menggunakan kerangka red-teaming garak yang banyak digunakan ukuran tingkat keberhasilan probabilistik (bukan lulus/gagal biner) untuk probe jailbreak/prompt-injection — berguna untuk membandingkan detektor dan menyetel pertahanan.
Insinyur keamanan ML dan red-team LLM yang sudah menggunakan garak harus meningkatkan versi dan mengadopsi hit@k di dasbor evaluasi mereka.
NVIDIA/garak v0.17.1 release
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →