솔루션  ·  2026-10-30

Hugging Face가 safeagents 출시 — 위험한 코딩 에이전트 도구 호출을 차단하는 Apache-2.0 프록시

솔루션Medium 영향도Global
10월 29일 Hugging Face는 safeagents(Apache-2.0)를 공개했습니다. 이는 에이전트와 모델 서버 사이에 배치되는 로컬 프록시(기본 127.0.0.1:8787)로, 하네스가 도구 호출을 실행하기 전에 모든 호출을 검사합니다. 3단계 검사는 선언되지 않은 도구 또는 대화에 없는 호스트를 사용하는 호출을 차단하고, ATIF 기반 감지기(예: /proc/1/environ, curl --noproxy, K8s 서비스 계정 토큰, unshare/nsenter)를 실행하며, 의심스러운 호출을 판사 모델로 선택적으로 라우팅하여 차단을 추가할 수 있지만 해제할 수는 없습니다. Claude Code, Codex, Cline, OpenHands 등과 base-URL 교체를 통해 호환됩니다.
모델의 추론을 신뢰하는 대신 도구 호출 병목 지점에서 정책을 강제하며, Cohere의 Qwen3.8 보고서에서 강조된 '모델이 가중치에서 생성한 URL로 자체적으로 통신하는' 실패 모드를 직접 해결합니다. 최상위 연구소의 초기 릴리스로서 보안 팀이 구축할 수 있는 구체적이고 하네스 독립적인 도구 호출 가드레일 참조 패턴을 확립합니다.
Claude Code/Codex 및 유사 코딩 에이전트를 사용하는 보안 및 플랫폼 팀은 에이전트 트래픽에 대해 --log-only 모드로 시도한 후, 허용 목록을 신뢰할 수 있게 되면 차단으로 강화해야 합니다.
ExplainX
라이브 피드에서 보기 AI 보안 및 거버넌스 관련 소식을 더 살펴보세요 — 매일 아침 업데이트.
피드 열기 →