정의
AI 애플리케이션을 지원하는 검색 가능한 지식 데이터베이스(벡터 저장소 또는 벡터 데이터베이스라고 함)를 대상으로 하는 공격. 공격자는 해당 데이터베이스에 특수하게 제작된 콘텐츠를 삽입하여 AI가 검색하는 정보를 조작할 수 있으며, 따라서 AI의 답변을 제어하거나 손상시킬 수 있습니다. 이는 AI가 말하기 전에 참고하는 참고 자료실을 조작하는 것과 유사합니다.
왜 중요한가
벡터 저장소는 대부분의 엔터프라이즈 AI 어시스턴트의 권위 있는 지식 백본입니다. 이를 손상시키면 AI가 처리하는 모든 쿼리를 조용히 오염시킬 수 있으며, 이는 비즈니스 의사 결정, 규정 준수 문서 또는 대규모 고객 상호 작용에 영향을 미칠 수 있습니다.