무슨 일이 있었나
이 논문은 Description-Code Inconsistency(DCI)와 결과적인 '능력 세탁' 위협 클래스를 공식화하고, 코드에서 도구 능력을 도출하여 세탁된 능력이 선량한 설명 뒤에 숨을 수 없도록 하는 신경기호적 접근법 ACaM을 제시합니다. 여러 도구 호출에 걸친 위협 체인을 재구성하고, 수정되지 않은 실제 에이전트에서 PoC로 10개의 취약한 경로를 확인합니다.
왜 중요한가
에이전트 시스템에 대한 실제적이고 악용 가능한 공격 클래스를 정의하며, 에이전트가 안전하다고 들은 도구가 탈취하거나 행동할 수 있습니다 — MCP 서버 및 에이전트 도구 공급망 검토와 직접 관련됩니다.
공격 경로
에이전트는 도구의 설명을 동작의 대리자로 신뢰하지만, 설명과 구현이 일치하도록 강제하는 것은 없습니다. 도구는 언급된 선량한 목적을 위해 호출될 때마다 실행되는 위험한 동작(예: 자격 증명 파일을 읽고 HTTP 헤더로 전송)을 조용히 포함할 수 있습니다 — 우연한 드리프트든 공급망 침해든.
영향받는 시스템
에이전트 및 MCP 도구 표면 일반 — 자연어 설명이 구현과 일치하지 않는 도구(능력 세탁); 43개 에이전트 분석
완화 방안
특정 패치는 없음; 설계 시 및 런타임 모두에서 도구 설명이 아닌 코드에서 도구 능력을 검증(정적 분석 / 능력 모델링)하여 완화하세요.