Apa yang terjadi
Proyek Keamanan GenAI OWASP merilis versi 1.0 dari 'GenAI Red Teaming Manual' sekitar 1 Juli 2026, kini terbuka untuk periode komentar publik. Manual ini mendefinisikan metodologi pengujian adversarial delapan fase (Planning & Scoping, Reconnaissance & Fingerprinting, Surface Mapping, Exploitation, Persistence & Escalation, Post-Exploitation & Impact, Evaluation & Reporting, Post-Engagement & Remediation) untuk menguji sistem AI generatif dan agentic, dengan kontribusi komunitas (misalnya, teknik jailbreak Echo Chamber multi-turn NeuralTrust yang didokumentasikan sebagai contoh dunia nyata). Ini secara eksplisit merujuk silang OWASP Top 10 for LLM Applications, OWASP Top 10 for Agentic Applications, MITRE ATLAS, dan NIST AI RMF.
Mengapa penting
Ini adalah metodologi red-teaming berbasis fase pertama yang distandarkan komunitas untuk sistem GenAI/agentic dari badan standar yang diakui, memberikan tim keamanan dan auditor proses yang dapat diulang dan dapat dilacak (termasuk metrik seperti Attack Success Rate dan pass@k) daripada pengujian ad hoc. Karena menghubungkan temuan kembali ke taksonomi risiko yang ada (LLM Top 10, Agentic Top 10, ATLAS, AI RMF), kemungkinan akan menjadi titik referensi untuk engagement red-team AI dan klaim vendor tentang ketelitian pengujian adversarial.
Tindakan yang diperlukan
Pemimpin keamanan dan red-team harus meninjau draf selama periode komentar publik, memetakan praktik red-teaming AI internal yang ada ke struktur delapan fase, dan mengirimkan umpan balik melalui saluran Proyek Keamanan GenAI OWASP sebelum periode komentar ditutup.