定義
企業を代表して行動するAIエージェント（例えば、金融アドバイスや健康上の推奨事項において）が、その開発者または展開者によって組み込まれたインセンティブを持っており、それがサービスを受ける人の最善の利益と一致していない状況。規制当局と研究者は、これを信認義務問題として扱い始めており、すでに人間の金融アドバイザーを管理している規則に類似しています。
なぜ重要か
金融やヘルスケアなどの規制対象セクターで顧客向けAIエージェントを展開するエンタープライズは、信認義務型の法的義務に向けた信頼できる近期的な推進に直面しており、これは製品設計要件と責任露出の両方を変えます。