技術的な説明
TU BerlinおよびMax Planck Institute for Security and Privacyの研究者らは、オペレーティングシステムセキュリティの観点からLLMベースのエージェントの体系的なセキュリティ分析を発表した。本論文はOpenClaw形式のエージェントを調査し、統一されたエージェントアーキテクチャを導出し、広く使用されている4つのエージェントを評価している。この研究により、いくつかの保護メカニズムが控えめな攻撃者の能力の下で失敗し、安全な動作には詳細なシステム知識と慎重な設定が必要であることが判明した。
攻撃経路
この研究は、AIエージェントとオペレーティングシステムが類似した保護上の課題に直面していることを示している。両者とも、信頼できないプリンシパルに代わって動作を実行し、制御されたインターフェースを通じて特権機能を公開し、データと権限がセキュリティ境界を越えることを防止する必要がある。この類推はLLMを信頼できないユーザーにマッピングし、エージェントランタイムをカーネルに、ツールをシステムコールに、スキルをプログラムに、LLMコンテキストをプロセスメモリにマッピングしている。
影響を受けるシステム
OpenClaw形式のエージェントおよび幅広いツール使用、サードパーティスキル統合、および永続的な状態を公開する同様のシステム。脆弱性分析はアーキテクチャレベルであり、実装固有ではなく、自律型エージェントフレームワークのより広いクラスに適用される。
緩和策
確立されたOSセキュリティ原則（分離、権限分離、仲介、制限、最小権限）を適用する。レイヤーごとの信頼強制ではなく、統一されたポリシー境界を実装する。エージェントコンテキストを信頼できないメモリとして扱い、スキル実行をサンドボックス化し、ツール呼び出しに強制アクセス制御を実装し、帰属と監査のためにすべての特権操作をログする。