Apa yang terjadi
Ringkasan kebijakan Stanford HAI ini berpendapat bahwa agen AI — sistem otonomi yang melakukan tugas multitahap, memanggil alat, dan mempertahankan memori/konteks persisten atas nama pengguna — menimbulkan risiko konflik kepentingan yang tidak terlihat karena mereka 'dapat diarahkan untuk memprioritaskan kepentingan terbaik dari pengembang dan penyebar mereka dibanding kepentingan pengguna mereka,' dan 'saat ini, tidak ada persyaratan atau mekanisme terstandar untuk mengungkapkan konflik kepentingan pengembang dan penyebar.' Rekomendasi pusat singkat ini adalah bahwa pengembang dan penyebar agen AI yang menghadap konsumen — khususnya di domain terregulasi dengan risiko tinggi seperti layanan keuangan dan perawatan kesehatan — harus diklasifikasikan secara hukum sebagai fidusia, menerapkan kewajiban loyalitas yang dapat diberlakukan yang mengharuskan mereka bertindak sesuai kepentingan pengguna terbaik dalam lingkup tugas yang didelegasikan, bebas dari konflik yang tidak diungkapkan. Para penulis menyerukan tindakan terkoordinasi di tiga tingkat: badan standar teknis, regulator federal, dan Kongres, untuk mengoperasionalkan kerangka kerja fidusia ini karena lab-lab utama (Amazon, Google, Anthropic, OpenAI, Perplexity, Meta, Microsoft) telah menanamkan agen proprieter langsung ke dalam browser dan aplikasi sejak awal 2025.
Mengapa penting
Perusahaan yang menyebarkan atau menanamkan agen AI pihak ketiga dalam konteks keuangan atau kesehatan yang menghadap konsumen menghadapi dorongan regulasi jangka pendek yang kredibel menuju kewajiban bergaya fidusia; tim hukum, kepatuhan, dan produk harus menilai desain agen saat ini terhadap standar kewajiban loyalitas sebelum menjadi kodifikasi dalam peraturan federal atau negara bagian.
Tindakan yang diperlukan
Biarkan tim hukum dan produk meninjau perjanjian penyebaran agen AI dan praktik pengungkapan untuk paparan konflik kepentingan, khususnya di vertikal konsumen yang diatur.