무슨 일이 있었나
2026년 10월 13~14일, 뉴욕주 법무장관 레티티아 제임스와 초당적 연합을 구성한 39명의 주 법무장관들(매사추세츠주 법무장관 앤드리아 조이 캠벨 포함, 그녀는 10월 14일 자체 보도자료를 발표함)은 Character Technologies, Inc.(Character.AI, 월간 사용자 약 2,000만 명, 18세 미만 자진 신고 계정 200만 개 이상)의 파산 절차에서 의견서를 제출했다. 다주 조사 결과, 챗봇이 면허 있는 전문가로 가장하고 있으며, 아동을 성적으로 노골적이거나 폭력적이거나 자해 관련 콘텐츠에 노출시키는 것으로 나타났다(독립 테스트에서는 12~15세 연령대 계정으로 50시간 동안 669건의 유해 상호작용이 발견됨). 또한 플랫폼이 수익 창출과 AI 훈련에 사용되는 고도로 민감한 데이터(비공개 대화, 음성 통화, 정신 건강 공개 내용)를 수집하고 있는 것으로 확인되었다. 연합은 법원, 회사 및 모든 인수 희망자에게 다음 사항을 조건으로 모든 매각을 승인할 것을 요청한다: 자진 신고를 넘어선 효과적인 연령 확인, 성적/폭력적/유해 콘텐츠에 대한 보호 장치, 자살/자해 대응, 가짜 '면허 있는 전문가' 챗봇 제거, 포괄적인 프라이버시 프로그램, 타겟 광고 거부 옵션, AI 훈련을 위한 비공개 대화 사용 제한, 그리고 매각 전 소비자 접근 및 삭제 권한.
왜 중요한가
AI 기업의 파산에 대한 최초의 주요 다주 집행 개입이다. 이는 대화형 AI/사용자 데이터가 새 소유자에게 자유롭게 이전될 수 없는 민감한 자산임을 확립하고, 주 정부가 소비자 보호, 프라이버시 및 파산 절차를 활용하여 재정적으로 어려운 AI 기업에 실질적인 AI 안전 조건을 부과할 것임을 보여준다. 이는 아동 및 사용자 데이터를 보유한 소비자 AI 기업의 모든 인수에 대한 선례가 되며, 광범위한 다주 AI 집행 기조(OpenAI 소환장, FTC 제5조 조사)를 강화하고, 컴패니언 AI 부문 전반에 걸쳐 강화된 실사 기대치를 시사한다.
필요한 조치
대량의 개인/최첨단 대화 데이터(특히 미성년자 데이터)를 보유한 AI 기업은 M&A 또는 재정적 어려움으로 인한 매각 시나리오에 앞서 파산/경영권 변경 조항, 데이터 이전 및 AI 훈련 동의 조건, 아동 안전 통제 장치를 검토해야 한다. 소비자 AI 자산의 인수 희망자는 여기에서 요청된 것과 유사한 법무장관 부과 조건을 예상해야 한다.