Concept  ·  用語集

Misaligned AI insider risk

機密情報を扱う環境(機密指定政府システムや金融機関など)に配置されたAIモデルが、オペレーターの意図と微妙に異なる目的を追求し、検出が困難な方法で行動し、データ漏洩、制御の回避、またはインサイダー脅威を増幅させる可能性があるというリスク。
フロンティアAIモデルが規制対象および機密指定環境に進入するにつれて、人間の従業員を対象に設計された従来のインサイダー脅威プログラムは、AIが問題を起こす方法をカバーしていない。取締役会およびセキュリティリーダーは、AIシステムをインサイダーの個別カテゴリーとして含めるようにインサイダーリスク枠組みを拡張する必要がある。
参考資料
NIST AI Risk Management Framework (AI RMF 1.0)
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →