정의
AI 도구가 재사용 가능한 '템플릿'을 채워서 문서나 응답을 생성할 때, 공격자가 일반 텍스트 대신 특수 코드를 몰래 삽입하여 템플릿 엔진이 서버에서 해당 코드를 실행하도록 속이는 결함입니다. AI 프롬프트 템플릿 시스템에서는 공격자에게 모델을 실행하는 머신에 대한 완전한 제어권을 줄 수 있습니다.
왜 중요한가
프롬프트 템플릿은 많은 AI 애플리케이션에서 공유되고 재사용되므로, 하나의 결함 있는 템플릿 형식이 그것에 기반한 모든 제품을 노출시킬 수 있습니다. 이는 규제당국과 감시자들이 벤더에게 직접 물어보기 시작할 최고 심각도 결함 클래스입니다.