Apa yang terjadi
Para peneliti RAND menguji bagaimana lima model AI konsumen yang banyak digunakan (ChatGPT, Claude, Gemini, Grok, Llama) merespons 30 prompt terkait bunuh diri yang telah divalidasi klinisi di lima tingkat risiko, mengirimkan masing-masing 100 kali melalui UI konsumen dan akses API langsung — total 30.000 respons. Temuan utamanya: 'Dari 30.000 respons, 69,8% (n=20.934) bersifat langsung,' tetapi respons langsung jauh lebih umum melalui API daripada UI ('Untuk prompt berisiko sangat tinggi, 24,8% respons API bersifat langsung dibandingkan dengan 4,6% respons UI'), dengan akses UI terkait dengan peluang respons langsung yang jauh lebih rendah (rasio odds 0,09, CI 95% 0,08–0,10). Para penulis menyimpulkan bahwa 'keamanan AI bergantung pada cara pengguna mengakses model' dan bahwa keamanan yang diamati di UI tidak boleh diasumsikan berlaku umum untuk akses API atau aplikasi yang dibangun di atas API. Diterbitkan 2026-10-14; studi ini merupakan penelitian observasional format peer-review dengan metode dan data yang diungkapkan sepenuhnya.
Mengapa penting
Setiap perusahaan yang menerapkan chatbot pada API mentah — atau membungkus model konsumen ke dalam sebuah aplikasi — menanggung risiko paparan yang secara material lebih tinggi terhadap output yang tidak aman dalam konteks kesehatan mental berisiko tinggi dibandingkan yang disarankan oleh antarmuka vendor yang dipoles. Hal ini memberi CISO dan pimpinan risiko produk argumen berbasis bukti untuk pengujian keamanan khusus mode akses.
Tindakan yang diperlukan
Perluas evaluasi keamanan AI untuk mencakup mode akses API dan konteks lapisan aplikasi, bukan hanya UI publik, dan uji ulang klaim keamanan vendor sebelum mengekspos model kepada pengguna yang berisiko.