정의
AI 모델이 비밀로 유지하도록 설계된 숨겨진 단계별 '사고'—즉 추론 과정—을 강제로 노출시키기 위해 사용되는 기법으로, 이를 통해 해당 역량을 복제, 클론, 또는 리버스 엔지니어링할 수 있게 된다. 이러한 추론 추출을 조정되고 규모화된 캠페인으로 수행하는 것은 모델의 보호된 역량에 대한 산업적 규모의 도용에 해당할 수 있다.
왜 중요한가
AI 개발자에게 추론 과정은 가장 가치 있는 영업 비밀 중 하나이다. 기업 입장에서는 이러한 위협을 이해함으로써 어떤 모델 제공업체가 독점적 추론을 신뢰성 있게 보호할 수 있는지 판단할 수 있다.