정의
조직이 AI 시스템에 로드하는 숨겨진 지침 세트인 '시스템 프롬프트'는 AI의 페르소나, 규칙, 기밀 컨텍스트 및 비즈니스 로직을 정의합니다. 시스템 프롬프트 유출은 공격자가 AI를 속이거나 잘못 구성하여 해당 지침을 공개하도록 하여 독점 워크플로우, 내부 데이터 참조, 보안 우회 힌트 또는 경쟁 정보를 노출시킬 때 발생합니다.
왜 중요한가
시스템 프롬프트는 조직이 최종 사용자로부터 숨겨져 있다고 가정하는 비즈니스 기밀 정보를 자주 포함합니다. 유출된 프롬프트는 보안 제어를 드러내어 표적화된 공격을 가능하게 하거나 지적 재산권 및 규정 준수 프로세스를 노출할 수 있습니다. GitLab의 AI 코딩 어시스턴트의 결함은 정확히 이런 종류의 민감한 데이터를 노출했습니다.