定義
AIセキュリティインシデントに特化した追跡システムであり、一般的なプライバシーやセキュリティのチケット管理ツールとは別のものです。モデル、エージェント、注入されたプロンプト、ツール呼び出し、影響範囲など、適切に対応するために必要なAI固有の詳細を捕捉します。これは、AIインシデントの公式ケースファイルと考えてください。
なぜ重要か
ほとんどの組織には、AIインシデントを記録し、そこから学ぶための場所がありません。そのため、同じ失敗が繰り返されます。記録のためのシステムがあれば、AIリスク対応を測定可能にし、監査可能にし、取締役会に引用可能にすることができます。