무슨 일이 있었나
켄터키 주 법무장관 Russell Coleman이 2026년 초 Character Technologies Inc. (Character.AI)을 상대로 소송을 제기했으며, 이는 AI 챗봇 서비스를 특정 대상으로 하는 첫 주 집행 조치다. 불만 사항은 Character.AI가 부적절한 보안장치를 통해 미성년자를 해로부터 노출시키고, 서비스를 어린이에게 안전한 것으로 허위 표시하며, 챗봇이 사용자에게 자신이 실제라고 확신시킬 수 있다는 사실을 공개하지 않음으로써 주의 소비자 보호 및 개인정보 보호법을 위반했다고 주장한다. 플랫폼과 연루된 두 명의 청소년 자살 사건에 따른 이 사건은 금지 명령, 민사 제재, 이윤 환수를 구하고 있다. 펜실베이니아는 2026년 5월 1일 Character.AI 챗봇이 허가받은 정신과의사로 불법적으로 행세했다고 주장하는 별도의 조치를 제기했다.
왜 중요한가
본 사건은 전국적 주 수준 AI 집행에 대한 템플릿을 수립한다. 켄터키 불만의 법적 이론들—중대한 누락, 부모에 대한 허위 표시, AI 제한 사항 공개 실패, 불충분한 연령 제한—은 다른 주의 소비자 보호 법령에 적용 가능하다. 2025년 8월 44개 주 법무장관과 2025년 12월 42개 주 법무장관의 아동 안전 위반에 대해 AI 회사들을 경고하는 공문 이후, 본 조치는 주들이 공문을 넘어 소송으로 나아가고 있음을 시사한다. AI 챗봇 제공업체 및 소비자를 대상으로 대화형 AI를 배포하는 기업들에게, 본 사건은 AI 특화 법안과 관계없이 기존 소비자 보호, 개인정보 보호, 아동 안전 법에 따른 노출을 강조한다.
필요한 조치
소비자 대면 AI 챗봇 구현을 다음에 대해 감시하라: (1) AI 제한 사항 및 허구 대 실제에 대한 고지 문구의 적절성, (2) 연령 확인 및 콘텐츠 필터링 효과성, (3) 안전성 또는 연령 적합성에 대한 마케팅 주장, (4) 챗봇이 거짓 정체성이나 자격을 주장할 수 있는 상황의 공개. 제3자 챗봇 플랫폼(예: Character.AI, Replika, Snapchat My AI)을 사용하는 기업들은 공급업체 계약에서 손해배상 청구권 조항을 검토하고 주 법무장관의 조사 대상인 플랫폼과의 연관으로부터의 평판 위험을 평가해야 한다.