Teknologi novel untuk tata kelola dan manajemen sektor keamanan

RAND Europe menerbitkan studi scoping yang dipesan oleh UK Foreign, Commonwealth & Development Office, menguji bagaimana sembilan kategori teknologi yang sedang berkembang — termasuk artificial intelligence, biometrics, machine learning, dan automated decision support — sedang diadopsi di seluruh tata kelola dan manajemen sektor keamanan (SSG/M) di dunia. Berdasarkan tinjauan literatur dan wawancara dengan 13 praktisi dan ahli, laporan ini menemukan bahwa teknologi-teknologi ini dapat memperkuat efisiensi dan akuntabilitas tetapi memperkenalkan 'kekhawatiran privasi dan perlindungan data, bias algoritmik, pengambilan keputusan yang opak, kerentanan keamanan siber, dan tantangan yang berkaitan dengan kedaulatan data dan ketergantungan pada pemasok swasta.' Laporan ini menetapkan enam praktik tata kelola lintas batas, termasuk bergerak 'melampaui human-in-the-loop menuju pengawasan berlapis yang mengatasi automation bias' dan menggabungkan kebijakan internal dengan regulasi eksternal dan audit. Laporan ini secara khusus menandai AI-assisted facial recognition, automated decision support, dan social-media monitoring sebagai titik konvergensi berisiko tinggi yang memerlukan justifikasi sebelum akuisisi dan pengawasan independen setelah penyebaran.

Pemerintah dan lembaga pertahanan/keamanan yang menerapkan alat surveillance, identitas, atau decision-support yang didukung AI kini memiliki daftar periksa tata kelola yang konkret — co-design, pengawasan berlapis, dan audit eksternal — yang dapat digunakan oleh para pemimpin kebijakan untuk membandingkan pengadaan yang ada atau direncanakan terhadap standar praktik terbaik sebelum akuisisi.

Petakan penyebaran sektor keamanan AI/biometrik yang ada atau direncanakan terhadap enam praktik tata kelola RAND dan perlukan ketentuan pengawasan/audit independen sebelum persetujuan pengadaan.