Human Control and Dual-Use Risk in Autonomous Systems

Istilah-istilah ini menyentuh ketegangan antara otonomi AI dan pengawasan manusia/negara: mandat kontrol manusia senjata otonom bersikeras pada mekanisme pengesampingan manusia (kill-switch) mengingat sifat ganda penggunaan kapabilitas AI, bergema dengan tema yang lebih luas dari Sovereign AI di mana negara-negara berusaha mempertahankan kontrol atas sistem AI yang kuat. Keduanya mencerminkan kekhawatiran tentang mempertahankan otoritas manusia atau nasional yang bermakna atas teknologi AI yang semakin otonom dan strategis.