Apa yang terjadi
Pada 29 Oktober 2026, Komite Teknis ETSI tentang Pengamanan Kecerdasan Buatan (TC SAI) merilis Spesifikasi Teknis ETSI TS 104 275, yang bertujuan untuk mengurangi risiko sistem AI generatif menghasilkan deepfake yang berbahaya. Pendekatan ini bersifat proaktif dan berbasis siklus hidup, bukan deteksi setelah kejadian, dengan mewajibkan penilaian risiko sebelum penerapan, proses pengawasan manusia, perlindungan terhadap penyalahgunaan (penyaringan konten, pelabelan konten buatan AI, peringatan pengguna), pemantauan berkelanjutan/penyelidikan insiden, dan penilaian berbasis bukti. Spesifikasi ini menetapkan skenario pengujian dan kriteria lulus/gagal sehingga organisasi dapat menunjukkan bahwa perlindungan tersebut benar-benar terpenuhi, dan dibangun di atas persyaratan keamanan dasar dari ETSI EN 304 223. ETSI memposisikannya sebagai pendukung tujuan EU AI Act, memperluas keamanan melampaui sistem yang diklasifikasikan sebagai berisiko tinggi.
Mengapa penting
Ini adalah spesifikasi ETSI pertama yang memperlakukan pencegahan deepfake sebagai masalah tata kelola dan keamanan siklus hidup dengan persyaratan yang konkret, dapat diaudit, dan kriteria pengujian, daripada mengandalkan deteksi setelah kejadian. Ini memberikan pengembang dan operator AI di negara-negara anggota UE/ETSI cara berbasis standar untuk menunjukkan kontrol mitigasi terhadap penyalahgunaan AI generatif, dan memperluas persyaratan keamanan AI melampaui klasifikasi berisiko tinggi dalam AI Act — jalur kepatuhan praktis yang melengkapi EN 304 223 dan ISO/IEC 27090.
Tindakan yang diperlukan
Petakan kontrol produk AI generatif terhadap persyaratan TS 104 275 (penilaian risiko sebelum penerapan, pengawasan manusia, pelabelan/penyaringan konten, pemantauan berkelanjutan, dokumentasi bukti); adopsi skenario pengujian dan kriteria lulus/gagalnya sebagai bukti kesesuaian; selaraskan kontrol mitigasi deepfake dengan EN 304 223 dan kewajiban EU AI Act.