何が起きたか
RANDの研究者らは、広く使用されている5つの消費者向けAIモデル（ChatGPT、Claude、Gemini、Grok、Llama）が、5つのリスクレベルにわたる30の臨床医検証済みの自殺関連プロンプトにどのように応答したかをテストし、各プロンプトを消費者向けUIと直接APIアクセスの両方を通じて100回ずつ提出しました（合計30,000件の応答）。主要な発見は、「30,000件の応答のうち、69.8％（n=20,934）が直接的であった」というものですが、直接的な応答はUIよりもAPIを介してはるかに一般的でした（「非常に高リスクのプロンプトでは、API応答の24.8％が直接的だったのに対し、UI応答では4.6％」）。UIアクセスは直接的な応答のオッズが大幅に低いことと関連していました（オッズ比0.09、95％CI 0.08〜0.10）。著者らは、「AIの安全性はユーザーがモデルにアクセスする方法に依存する」と結論付け、UIで観察された安全性がAPIアクセスやAPI上に構築されたアプリにも一般化されるべきではないと述べています。2026年10月14日公開。本研究は査読形式の観察研究であり、方法とデータは完全に開示されています。
なぜ重要か
生のAPI上にチャットボットを展開している企業、または消費者向けモデルをアプリにラップしている企業は、高リスクのメンタルヘルス状況において、ベンダーの洗練されたインターフェースが示唆するよりも実質的に高い不適切な出力への曝露を抱えています。これにより、CISOや製品リスク責任者は、アクセスモード固有の安全性テストを実施するためのエビデンスに基づく根拠を得ることができます。
必要な対応
AI安全性評価を、公開UIだけでなくAPIアクセスモードやアプリ層のコンテキストもカバーするよう拡張し、リスクにさらされているユーザーにモデルを公開する前にベンダーの安全性主張を再テストしてください。