何が起きたか
RAND Europeは英国外交英連邦開発庁により委託されたスコーピングスタディを発表し、人工知能、生体認証、機械学習、自動意思決定支援を含む9つのカテゴリーの新興技術が世界中のセキュリティ部門ガバナンスと管理(SSG/M)全体でどのように導入されているかを検証した。文献レビューと13人の実務家および専門家へのインタビューに基づいて、本報告書はこれらの技術が効率性と説明責任を強化できる一方で、「プライバシーとデータ保護の懸念、アルゴリズムバイアス、不透明な意思決定、サイバーセキュリティの脆弱性、およびデータ主権と民間サプライヤーへの依存に関連する課題」をもたらすことを明らかにしている。本報告書は、「人間ループを超えて自動化バイアスに対抗する多層的な監視への移行」と内部政策を外部規制と監査と組み合わせることを含む6つの横断的なガバナンス慣行を提示している。本報告書は特にAI支援の顔認識、自動意思決定支援、およびソーシャルメディア監視を、取得前の正当化と展開後の独立した監視が必要とされる高リスクの収束ポイントとして警告している。
なぜ重要か
AI対応監視、身元確認、または意思決定支援ツールを展開する政府および防衛/セキュリティ機関は、現在、具体的なガバナンスチェックリスト(共同設計、段階的監視、外部監査)を保有しており、政策主導者は取得前にベストプラクティス基準に対して既存または計画中の調達をベンチマークするために使用できる。
必要な対応
現在または計画中のAI/生体認証セキュリティ部門の展開をRANDの6つのガバナンス慣行と照らし合わせマップし、調達承認前に独立した監視/監査の条項を要求する。