Fail-safe shutdown mechanism (frontier AI)

一种内置的方式，用于在出现问题时（包括训练过程中或内部使用期间）立即停止前沿AI模型的运行。多个政府和领先实验室已承诺将其作为运营前沿模型的具体条件。这是针对灾难性风险担忧的实际“大红色停止按钮”。

可靠的关停是应对异常或危险模型的最后防线，并且它正从讨论话题转变为签署承诺。