Definisi
Sebuah latihan pengujian di mana satu tim mencoba merusak sistem AI (seperti red-teaming) sementara tim pertahanan menonton dan menyetel perlindungan secara real-time, menggunakan teknik serangan khusus AI daripada alat peretasan generik. Ini menggabungkan serangan dan pertahanan menjadi satu loop umpan balik berkelanjutan daripada laporan sekali jadi.
Mengapa penting
Ini memberikan kepemimpinan jaminan berkelanjutan bahwa pertahanan AI tetap selaras dengan metode serangan baru, daripada hasil pengujian yang sudah usang dari berbulan-bulan lalu.