무슨 일이 있었나
최근 연설에서 FCA 최고 데이터, 정보 및 정보책임자 제시카 루수는 FCA가 AI를 '에이전트 규제기관'으로 사용할 의도라고 발표했습니다 — 대규모 데이터셋에서 인텔리전스를 추출하고 조기 경고 신호를 식별하며 대규모 집단을 감독하는 AI 도구를 구축하는 것입니다(예: 2028년부터 60,000개의 AML 대상 법률/회계 회사 감독 및 약 9,000개 도매 시장 거래 보고 회사를 모니터링하는 시장 '최초 대응' 에이전트). 동시에 FCA는 에이전트 신원, 위임 권한, 책임 및 실행을 다루는 에이전트 금융 프레임워크를 개발 중이며, AI를 배포하는 기업을 위한 우수/불량 사례를 공개했습니다 — 소비자 의무(Consumer Duty) 하의 소비자 중심, AI 시스템에 대한 고위 관리자의 개인적 책임, 운영 복원력(스트레스 테스트, 폴백, 단일 모델 의존성 리스크)을 강조합니다.
왜 중요한가
FCA는 AI를 감독에 사용하면서도 규제 대상 기업이 AI, 특히 고객을 대신하여 거래하는 에이전트형 AI를 배포하는 방식에 대한 기대치를 강화하고 있습니다. 고위 관리자 책임 및 소비자 의무 프레임워크는 FCA에 기존 집행 수단을 제공하므로, 기업은 에이전트형 AI를 규제 대상이 아니라고 간주할 수 없습니다. 이는 영국 AI-금융 체제에 대한 구체적인 감독 방향입니다.
필요한 조치
FCA 규제 금융 기업은 에이전트형 AI 사용을 인벤토리화하고, 소비자 의무 결과 및 고위 관리자 책임에 매핑하며, FCA의 기대치가 공식화되기 전에 거버넌스, 스트레스 테스트 및 폴백 체계를 강화해야 합니다.