정의
안전하게 AI 또는 모델의 신뢰할 수 없는 코드를 실행하기 위해 사용되는 제한된 환경을 벗어나, 공격자가 샌드박스 너머의 호스트 머신 권한을 획득하는 것. 코딩 에이전트 및 모델 생성 코드를 실행하는 AI 플랫폼에 적용될 때, 이는 프롬프트 수준의 트릭을 전체 머신 탈취로 전환시킨다.
왜 중요한가
샌드박스는 조직이 AI가 코드를 생성하고 실행하도록 허용해도 안전하다고 느끼는 주요 이유이며, 입증된 탈출은 그 안전 가정이 사라졌음을 의미하고 AI와 호스트 사이의 벽은 의심스러운 것으로 취급되어야 한다.