定義
サイバーセキュリティで使用されるAIツールは、推論プロセスをステップバイステップで示し、何かを脅威としてフラグした理由を説明するもので、単に説明なしに判定結果を出力するだけではありません。セキュリティベンダーは、人間のアナリストがAIの決定を信頼し、監査できるように、自動アラート分類ツールにこれを組み込んでいます。
なぜ重要か
企業がより多くのセキュリティ上の決定をAIに委ねるにつれ、リーダーはそれらの決定が事後に検証および正当化できることを知る必要があります。説明不可能なAI判定は、インシデント後に監査人、規制当局、または取締役会に対して防御するのが困難です。