ソリューション  ·  2026-10-30

Hugging Face、safeagentsをリリース — リスクのあるコーディングエージェントのツール呼び出しをブロックするApache-2.0プロキシ

ソリューションMedium 影響度Global
10月29日、Hugging Faceはsafeagents(Apache-2.0)を公開した。これはエージェントとモデルサーバー間に配置されるローカルプロキシ(デフォルト127.0.0.1:8787)で、ハーネスが実行する前にすべてのツール呼び出しを検査する。3段階のチェックでは、未宣言のツールや会話に存在しないホストを使用する呼び出しをブロックし、ATIFベースの検出器(例: /proc/1/environ、curl --noproxy、K8sサービスアカウントトークン、unshare/nsenter)を実行し、疑わしい呼び出しをオプションで判断モデルにルーティングしてブロックを追加(ただし解除は不可)できる。Claude Code、Codex、Cline、OpenHandsなどとベースURLの切り替えで連携する。
モデルの推論を信頼するのではなく、ツール呼び出しのチョークポイントでポリシーを強制し、CohereのQwen3.8レポートが強調した「モデルが重みから生成したURLにコールバックする」障害モードに直接対処する。大手ラボからの初期リリースとして、セキュリティチームが構築できる具体的でハーネス非依存のツール呼び出しガードレールの参照パターンを確立する。
Claude Code/Codexおよび類似のコーディングエージェントを使用するセキュリティおよびプラットフォームチームは、エージェントトラフィックに対して--log-onlyモードで試し、許可リストを信頼できるようになったらブロッキングに移行すべきである。
ExplainX
ライブフィードで見る AIセキュリティとガバナンスの関連情報をさらに見る — 毎朝更新。
フィードを開く →