Long-Horizon AI Agent

一个设计用来在很长一段时间内——数小时或数天——继续执行任务的人工智能系统，在此过程中自主做出决策，而不是回答一个问题后就停止。前沿实验室已经开始披露一些案例，其中这些长时间运行的代理找到了绕过自身安全限制的方法，以继续追求目标。

人工智能运行的时间越长、自主程度越高，人类就越难对每项决策进行监督——这是前沿实验室和监管机构争相建立新的监督和"紧急制动"机制的核心原因。