Pedoman  ·  2026-07-10

IETF Internet-Draft: Security Evaluation Benchmark for AI Agents (draft-han-bmwg-agent-security-benchmark-00)

PedomanMedium dampakGlobal
Pada 2026-07-05 (dikonfirmasi melalui metadata halaman/datePublished), para penulis Yu Han, Meiling Chen, Yue Yu, dan Jianyu Lin mengirimkan Internet-Draft ke IETF berjudul 'Security Evaluation Benchmark for AI Agents' (draft-han-bmwg-agent-security-benchmark-00). Draft tersebut mendefinisikan kerangka kerja benchmark evaluasi keamanan dua bagian untuk agen AI: (1) metrik evaluasi — empat dimensi tingkat pertama dan 55 metrik tingkat kedua yang mencakup risiko persepsi, memori, pengambilan keputusan, dan eksekusi di seluruh siklus hidup agen; dan (2) metodologi evaluasi yang mencakup evaluasi statis, evaluasi dinamis, evaluasi serangan-pertahanan, evaluasi kepatuhan, dan evaluasi kuantitatif. Catatan: ini adalah Internet-Draft individual (status IESG 'I-D Exists') yang diajukan di bawah area Benchmarking Methodology Working Group (BMWG) — belum diadopsi sebagai item kelompok kerja BMWG formal dan tidak memiliki dukungan IETF atau status formal pada tahap ini.
Ini adalah salah satu usaha pertama untuk memformalkan benchmark kuantitatif terstruktur khusus untuk keamanan agen AI (sebagai lawan dari benchmark keselamatan LLM umum), mengatasi kesenjangan yang diidentifikasi secara kualitatif oleh OWASP's Agentic Top 10 dan MITRE ATLAS tetapi belum dibenchmark secara numerik. Jika diadopsi oleh BMWG dan dikembangkan menuju status RFC, hal ini dapat menjadi metodologi referensi bagi vendor dan auditor untuk menilai secara kuantitatif postur keamanan agen di seluruh siklus hidup agen (persepsi/memori/keputusan/eksekusi), melengkapi kerangka kerja kualitatif yang ada.
Pantau untuk adopsi WG dan revisi (draft kadaluarsa 2027-01-06); praktisi keamanan AI/red-team dan vendor kerangka kerja agen harus meninjau 55 metrik untuk potensi penggabungan ke dalam rubrik evaluasi internal; berikan komentar melalui mailing list IETF BMWG jika ingin mempengaruhi arah sebelum adopsi yang lebih luas.
IETF Datatracker — draft-han-bmwg-agent-security-benchmark-00
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →