Defense  ·  Glosarium

Automated red-teaming (agentic red-teaming)

Menggunakan agen AI untuk secara otomatis menyelidiki sistem AI guna mencari kelemahan dan perilaku yang dapat dieksploitasi, alih-alih hanya mengandalkan penguji manusia. Laboratorium garda depan dan vendor kini mengungkapkan bahwa agen red-teaming otomatis mengungguli manusia dan dapat mendorong eksekusi eksploitasi yang sebenarnya.
Karena para penyerang sendiri mengotomatiskan dengan AI, para pembela membutuhkan AI yang dapat menemukan dan menguji kelemahan pada kecepatan AI — fakta bahwa red-teaming otomatis kini mengalahkan penguji manusia merupakan kapabilitas yang sedang muncul sekaligus peringatan tentang seberapa cepat sisi penyerang bergerak.
Anthropic automated red-teaming (Anvil)
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →