정의
이것은 공격자가 표준 AI 모델을 그로부터 훈련된 '추론' 버전과 비교하여, 추론 모델이 '생각하는' 방식의 차이를 이용해 모델이 절대 공개해서는 안 되는 숨겨진 정보를 추출하는 기법입니다 — 이전 방법보다 최대 10배 더 효과적입니다. 현대 AI 모델을 더 똑똑하게 만드는 추가 내부 추론 단계를 새로운 정보 유출 원천으로 악용합니다.
왜 중요한가
기업들이 더욱 강력한 '추론' AI 모델을 배포하려고 서두르면서, 이것은 추가된 지능이 표준 보안 테스트가 놓칠 수 있는 새롭고 예상하기 어려운 데이터 유출 위험을 동반할 수 있음을 보여줍니다.