Apa yang terjadi
Jaksa Agung Pennsylvania Dave Sunday mengumumkan perjanjian formal dengan GEICO pada 26 Mei 2026, yang mewajibkan perusahaan asuransi untuk memodifikasi proses peninjauan underwriting berbantuan AI-nya setelah alat AI memilih pemegang polis baru untuk pembatalan tanpa memberikan pemberitahuan yang memadai, membiarkannya tidak menyadari bahwa dia tidak memiliki asuransi. Berdasarkan perjanjian tersebut, GEICO harus mematuhi panduan Departemen Asuransi Pennsylvania tentang penggunaan sistem AI oleh perusahaan asuransi, memperpanjang jendela pengajuan dokumen bagi pemegang polis yang sedang ditinjau, dan melatih perwakilan layanan pelanggan tentang kewajiban kejelasan di seluruh proses pembatalan.
Mengapa penting
Ini adalah perjanjian penegakan tingkat negara bagian pertama di Amerika Serikat yang secara khusus menargetkan sistem keputusan underwriting AI perusahaan asuransi berdasarkan hukum perlindungan konsumen. Ini menunjukkan bahwa jaksa agung negara bagian — bukan hanya FTC — sekarang bersedia untuk secara langsung mengawasi pengambilan keputusan otomatis berbantuan AI dalam asuransi dan sektor regulasi lainnya, dan bahwa kewajiban keadilan prosedural (pemberitahuan yang memadai, transparansi, penjelasan) berlaku bahkan ketika tindakan AI yang mendasar secara teknis sah.
Tindakan yang diperlukan
Sarankan klien layanan keuangan dan asuransi untuk segera melakukan audit pipeline keputusan underwriting dan klaim berbantuan AI untuk kepatuhan terhadap panduan AI departemen asuransi negara bagian — khususnya seputar kecukupan notifikasi, transparansi tindakan merugikan, dan pelatihan layanan pelanggan — sebelum investigasi jaksa agung negara bagian meningkat.