Definisi
Alat AI yang digunakan dalam keamanan siber yang menunjukkan alasan mereka langkah demi langkah — menjelaskan mengapa mereka menandai sesuatu sebagai ancaman — daripada hanya mengeluarkan putusan tanpa penjelasan. Vendor keamanan membangun ini ke dalam alat otomatis triage peringatan khusus sehingga analis manusia dapat mempercayai dan mengaudit keputusan AI.
Mengapa penting
Ketika perusahaan menyerahkan lebih banyak keputusan keamanan kepada AI, para pemimpin perlu mengetahui bahwa keputusan tersebut dapat diperiksa dan dibenarkan setelahnya — putusan AI yang tidak dapat dijelaskan sulit untuk dipertahankan kepada auditor, regulator, atau dewan setelah insiden terjadi.