事件经过
这篇MIT斯隆管理评论文章（发布于2026年11月3日）认为，新兴的AI治理框架隐藏着一个问题：通过让“人在回路中”对AI生成的警报做出反应，而非主动识别潜在威胁，可能会悄然削弱重要的人类行为，并降低整体可靠性。借鉴高可靠性组织（HRO）在核电站、航空母舰和空中交通管制方面的经验教训——包括三哩岛警报级联故障和哥伦比亚号泡沫撞击异议压制——作者主张，AI驱动的威胁检测系统（欺诈、入侵、合规、患者恶化）容易产生偏见、漂移和幻觉，而基于被动人工签核的治理框架可能会削弱而非强化前线判断力。文章建议设计运行原则，将决策权交还给最接近问题的人员，并将新兴异常视为信号而非噪声。
影响分析
对于设计AI监督、升级和签核流程的CISO或运营负责人而言，这挑战了“增加人工审核自然会提升安全性”的常见假设——它可能降低人的警觉性并制造新的盲点，在受监管或安全关键的AI部署中这是一个实质性考量。
建议行动
让您的AI风险和安防负责人测试AI警报式人在回路检查点是否正在削弱前线警觉性，并考虑将高可靠性运行原则（前线判断权、异常即信号）应用于AI威胁检测治理。