Human Control and Dual-Use Risk in Autonomous Systems

이러한 용어들은 AI 자율성과 인간/국가 감시 사이의 긴장을 다룹니다: 자율 무기 인간 통제 위임은 AI 기능의 이중 사용 특성을 감안하여 인간 무시(kill-switch) 메커니즘을 주장하며, 국가들이 강력한 AI 시스템에 대한 통제를 유지하려고 추구하는 Sovereign AI의 더 광범위한 주제와 일맥상통합니다. 둘 다 점점 더 자율적이고 전략적으로 중요한 AI 기술에 대한 의미 있는 인간 또는 국가 권위를 유지하는 것에 대한 우려를 반영합니다.