취약점  ·  2026-11-22

ACaM: 설명-코드 불일치 / 에이전트 AI 도구 표면의 '능력 세탁' 공격 클래스

취약점Medium 영향도Global
이 논문은 Description-Code Inconsistency(DCI)와 결과적인 '능력 세탁' 위협 클래스를 공식화하고, 코드에서 도구 능력을 도출하여 세탁된 능력이 선량한 설명 뒤에 숨을 수 없도록 하는 신경기호적 접근법 ACaM을 제시합니다. 여러 도구 호출에 걸친 위협 체인을 재구성하고, 수정되지 않은 실제 에이전트에서 PoC로 10개의 취약한 경로를 확인합니다.
에이전트 시스템에 대한 실제적이고 악용 가능한 공격 클래스를 정의하며, 에이전트가 안전하다고 들은 도구가 탈취하거나 행동할 수 있습니다 — MCP 서버 및 에이전트 도구 공급망 검토와 직접 관련됩니다.
에이전트는 도구의 설명을 동작의 대리자로 신뢰하지만, 설명과 구현이 일치하도록 강제하는 것은 없습니다. 도구는 언급된 선량한 목적을 위해 호출될 때마다 실행되는 위험한 동작(예: 자격 증명 파일을 읽고 HTTP 헤더로 전송)을 조용히 포함할 수 있습니다 — 우연한 드리프트든 공급망 침해든.
에이전트 및 MCP 도구 표면 일반 — 자연어 설명이 구현과 일치하지 않는 도구(능력 세탁); 43개 에이전트 분석
특정 패치는 없음; 설계 시 및 런타임 모두에서 도구 설명이 아닌 코드에서 도구 능력을 검증(정적 분석 / 능력 모델링)하여 완화하세요.
arXiv 2611.23507 — ACaM: Automated Capability Modeling for Agentic AI Security
라이브 피드에서 보기 AI 보안 및 거버넌스 관련 소식을 더 살펴보세요 — 매일 아침 업데이트.
피드 열기 →