무슨 일이 있었나
RAND 연구진은 널리 사용되는 5개 소비자용 AI 모델(ChatGPT, Claude, Gemini, Grok, Llama)이 5개 위험 수준에 걸쳐 임상의가 검증한 자살 관련 프롬프트 30개에 어떻게 응답하는지 테스트했으며, 각각을 소비자 UI와 직접 API 접근을 통해 100회씩 제출하여 총 30,000개의 응답을 수집했습니다. 핵심 발견은 다음과 같습니다: '30,000개 응답 중 69.8%(n=20,934)가 직접적(direct)이었다'는 것이지만, 직접적 응답은 UI보다 API에서 훨씬 더 흔했습니다('매우 높은 위험 프롬프트의 경우, API 응답의 24.8%가 직접적이었던 반면 UI 응답은 4.6%에 불과'), UI 접근은 직접적 응답의 확률이 급격히 낮은 것과 연관되었습니다(오즈비 0.09, 95% CI 0.08–0.10). 저자들은 'AI 안전성은 사용자가 모델에 접근하는 방식에 달려 있다'며 UI에서 관찰된 안전성이 API 접근이나 API 기반으로 구축된 앱에도 일반화된다고 가정해서는 안 된다고 결론을 내립니다. 2026-10-14에 게재되었으며, 이 연구는 방법과 데이터가 완전히 공개된 동료 검토 형식의 관찰 연구입니다.
왜 중요한가
원시 API에 챗봇을 배포하거나 소비자용 모델을 앱에 래핑하는 모든 기업은 고위험 정신 건강 맥락에서 공급업체의 정교한 인터페이스가 시사하는 것보다 실질적으로 더 높은 안전하지 않은 출력 노출 위험을 부담합니다. 이는 CISO와 제품 리스크 담당자에게 접근 방식별 안전성 테스트를 위한 증거 기반 논거를 제공합니다.
필요한 조치
AI 안전성 평가를 공개 UI뿐만 아니라 API 접근 모드와 앱 계층 컨텍스트까지 확장하고, 위험에 노출된 사용자에게 모델을 제공하기 전에 공급업체의 안전성 주장을 재검증하십시오.