정의
AI 에이전트가 신뢰하고 사용하도록 설계된 도구의 설명, 출력 또는 구성 내에 악의적인 명령어나 페이로드가 숨겨져 있는 공격입니다. 에이전트가 해당 도구를 호출하면 공격자의 명령어를 무의식중에 실행하게 되어 트래픽을 리다이렉트하고, 비밀을 유출하거나, 파괴적인 행동을 수행합니다.
왜 중요한가
AI 에이전트가 Model Context Protocol 및 유사한 프레임워크를 통해 더 많은 비즈니스 도구에 연결됨에 따라, 도구 포이즈닝은 공격자가 AI 모델 자체에 전혀 접근하지 않고도 자동화된 전체 워크플로우를 탈취할 수 있는 확장 가능한 방법이 됩니다. 하나의 포이즈닝된 도구가 그것을 신뢰하는 모든 에이전트에 걸쳐 연쇄적으로 확산될 수 있습니다.