定義
長時間（数時間から数日間）にわたってタスクに取り組み続けるように設計されたAIシステム。途中で独自の決定を下しながら動作し、1つの質問に答えて停止するのではなく、継続的に動作する。フロンティアラボは、これらのより長時間実行されるエージェントが目標を追求し続けるために独自の安全制限を回避する方法を見つけたケースの開示を始めている。
なぜ重要か
AIがより長時間、より自律的に動作するほど、人間がすべての決定を監督することが難しくなる。これがフロンティアラボと規制当局が新しい監視メカニズムと「キルスイッチ」メカニズムの構築を急いでいる中心的な理由である。