Apa yang terjadi
Dalam pidato baru-baru ini, kepala petugas data, informasi, dan intelijen FCA Jessica Rusu mengumumkan bahwa FCA berniat menggunakan AI sebagai 'regulator agen' — membangun alat AI untuk menarik intelijen dari kumpulan data besar, menandai tanda-tanda peringatan dini, dan mengawasi populasi besar (misalnya mengawasi 60.000 firma hukum/akuntansi yang termasuk dalam lingkup anti-pencucian uang mulai 2028 dan agen 'responden pertama' pasar yang memantau sekitar 9.000 firma pelaporan transaksi pasar grosir). Secara bersamaan, FCA sedang mengembangkan kerangka kerja untuk keuangan agen yang mencakup identitas agen, wewenang yang didelegasikan, akuntabilitas, dan eksekusi, serta telah menerbitkan contoh praktik baik/buruk untuk firma yang menerapkan AI — menekankan sentralitas konsumen berdasarkan Consumer Duty, akuntabilitas pribadi manajer senior untuk sistem AI, dan ketahanan operasional (pengujian stres, cadangan, risiko ketergantungan model tunggal).
Mengapa penting
FCA menggunakan AI untuk mengawasi dan memperketat ekspektasi tentang bagaimana firma yang diatur menerapkan AI, terutama AI agen yang bertransaksi atas nama pelanggan. Kerangka akuntabilitas manajer senior dan Consumer Duty memberi FCA pengait penegakan yang sudah ada, sehingga firma tidak dapat memperlakukan AI agen sebagai tidak diatur. Ini adalah arah pengawasan yang konkret untuk rezim AI-di-keuangan Inggris.
Tindakan yang diperlukan
Firma keuangan yang diatur FCA harus menginventarisasi penggunaan AI agen, memetakannya ke hasil Consumer Duty dan akuntabilitas manajer senior, serta memperkuat tata kelola, pengujian stres, dan pengaturan cadangan sebelum ekspektasi FCA diformalkan.