정의
회사를 대신하여 행동하는 AI 에이전트 — 예를 들어 재무 조언이나 건강 권장사항 — 가 개발자나 배포자에 의해 내장된 인센티브를 가지고 있지만, 이러한 인센티브가 그것이 서비스하는 사람의 최선의 이익과 일치하지 않는 상황. 규제 당국과 연구자들은 이미 인간 재무 고문을 다루는 규칙과 유사하게 이를 신탁 의무 문제로 취급하기 시작하고 있다.
왜 중요한가
금융 및 의료 같은 규제 대상 분야에서 고객 대면 AI 에이전트를 배포하는 기업들은 신탁 스타일의 법적 의무에 대한 신뢰할 수 있는 단기적 압박에 직면하고 있으며, 이는 제품 설계 요구사항과 책임 노출을 모두 변화시킨다.