何が起きたか
2026年10月28日、キャシー・ホークル知事はS.9051B/A.10379Cに署名し、2027年1月1日から施行される。これは、AIチャットボット機能を使用する企業が未成年者に「安全でない」機能を提供することを禁止するものであり、人間を装ったり人間の感情を表現したりするチャットボット、感情的な依存を構築するチャットボット、自傷行為や自殺を助長するチャットボット、薬物・アルコール使用や摂食障害を促進するチャットボット、性的に露骨な会話や児童性的虐待資料に関する議論を行うチャットボット、および以前の会話から未成年者の私的健康情報を参照するチャットボットなど、12の広範なカテゴリーに及ぶ。プロバイダーは、複数の年齢確認方法（少なくとも1つは政府IDのみに依存しないもの）を使用してユーザーの年齢を確認する必要があり、確認後にユーザーの年齢データを削除しなければならない。ニューヨーク州検事総長の事務所は公開の苦情ポータルを維持する必要があり、罰則は違反ごとに最大25,000ドルに加え、不法に取得されたデータの削除を含む差止救済に達する。
なぜ重要か
これは、コンパニオンチャットボットの行動に対する広範なカテゴリー別禁止を課す初の州法であり、急速に増えている州のAIチャットボット法（カリフォルニア州のSB 3001／アダム法およびハワイ州のAI開示・安全法に続く）に追加されるものである。これは、ニューヨーク州で未成年者にサービスを提供するすべてのチャットボットプロバイダー（Google、OpenAI、Anthropicなど）に対し、具体的な設計上の禁止事項に加え、年齢確認およびデータ削除義務を課すものである。
必要な対応
ニューヨーク州の未成年者にサービスを提供するチャットボットプロバイダーは、禁止された12の機能カテゴリーを削除または無効化し、少なくとも1つは政府ID以外の方法を用いた複数方式の年齢保証を実装し、確認後に年齢データを消去し、2027年1月1日までに検事総長の苦情ポータルおよび最大25,000ドル／違反のエクスポージャーに備える必要がある。