Definisi
Menggunakan agen AI untuk secara otomatis menyelidiki sistem AI guna mencari kelemahan dan perilaku yang dapat dieksploitasi, alih-alih hanya mengandalkan penguji manusia. Laboratorium garda depan dan vendor kini mengungkapkan bahwa agen red-teaming otomatis mengungguli manusia dan dapat mendorong eksekusi eksploitasi yang sebenarnya.
Mengapa penting
Karena para penyerang sendiri mengotomatiskan dengan AI, para pembela membutuhkan AI yang dapat menemukan dan menguji kelemahan pada kecepatan AI — fakta bahwa red-teaming otomatis kini mengalahkan penguji manusia merupakan kapabilitas yang sedang muncul sekaligus peringatan tentang seberapa cepat sisi penyerang bergerak.