Super-intelligence incident management

检测、遏制并报告先进（所谓“超级智能”）人工智能所造成的危害的过程——包括在行为失常的自主代理造成损害之前将其阻止。传统的 incident-response 手册假设端点由人类操作，无法可靠地阻止自行行动的代理。

监管机构正在推动可撤销权限和终止机制，因为失控的代理可能在人类干预之前就迅速造成损害，而当前的遏制指南并未涵盖这一点。