정의
AI 에이전트가 이미 실행 권한이 있는 명령어에 숨겨진 옵션이나 플래그를 추가하도록 하는 숨겨진 지시사항으로 인한 공격으로, 명령어의 동작을 위험한 방식으로 변경합니다. 이는 명백하게 위험한 명령어뿐 아니라 위험한 옵션 조합을 확인하지 않는 필터를 통과하여 더욱 강력한 명령어를 몰래 실행하는 방식입니다.
왜 중요한가
많은 AI-인프라 도구가 의존하는 '안전 명령어 허용 목록' 스타일의 보안 메커니즘을 우회하며, 표면 수준의 필터링만으로는 손상된 에이전트가 Kubernetes 클러스터와 같은 중요 시스템을 장악하는 것을 막기에 충분하지 않음을 보여줍니다.