Human Control and Dual-Use Risk in Autonomous Systems

这些术语涉及AI自主性与人类/国家监督之间的紧张关系:自主武器人类控制授权坚持人类覆盖(杀死开关)机制,考虑到AI能力的双重用途性质,呼应了主权AI的更广泛主题,其中国家寻求对强大的AI系统保持控制权。两者都反映了对维持对日益自主且战略上重要的AI技术进行有意义的人类或国家权威的关注。