Dual-use capability controls and catastrophic risk limits

双用途AI能力——那些既可用于有益目的也可用于有害目的的能力——推动了出口管制式的限制（如阻止未授权的模型蒸馏以保护主权AI优势）和技术防护措施（如生物安全软件屏障）的实施，这些措施旨在将能力保持在灾难性风险阈值以下。这些术语总体上反映了国家想要控制AI能力传播与旨在防止该能力被滥用的技术护栏之间的紧张关系。