Definisi
Situasi di mana agen AI yang bertindak atas nama perusahaan — misalnya dalam saran keuangan atau rekomendasi kesehatan — memiliki insentif (yang tertanam oleh pengembang atau peenyebar) yang tidak sejalan dengan kepentingan terbaik orang yang dilayaninya. Regulator dan peneliti mulai memperlakukan ini seperti masalah tanggung jawab fidusia, mirip dengan aturan yang sudah mengatur penasihat keuangan manusia.
Mengapa penting
Perusahaan yang menerapkan agen AI yang berhadapan dengan pelanggan di sektor yang diatur seperti keuangan dan kesehatan menghadapi dorongan jangka pendek yang kredibel menuju kewajiban hukum bergaya fidusia, yang mengubah persyaratan desain produk dan eksposur tanggung jawab.