Apa yang terjadi
CISA, NSA, Australia's ASD ACSC, Canadian Centre for Cyber Security, NZ NCSC, dan UK NCSC menerbitkan panduan bersama pada 1 Mei 2026, berjudul 'Careful Adoption of Agentic AI Services,' yang menguraikan 23 risiko berbeda di lima kelas: privilege, design dan configuration, behavioral, structural, dan accountability. Panduan ini menekankan bahwa sistem agentic AI berbeda dari GenAI tradisional karena melakukan penalaran secara otomatis, membuat keputusan, dan mengambil tindakan menggunakan alat yang terhubung, sistem memori, dan sumber data eksternal.
Mengapa penting
Ini adalah panduan keamanan multi-pemerintah yang terkoordinasi pertama kali yang secara khusus mengatasi sistem agentic AI, memindahkan risiko autonomous-agent dari masalah vendor yang berkembang ke klasifikasi infrastruktur nasional yang kritis. Panduan ini memperingatkan bahwa agen AI yang overprivileged dapat menyetujui pembayaran, memodifikasi kontrak, memanipulasi catatan, menghapus log, dan mengekstrak informasi sensitif sambil tampak sah dalam jejak audit. Organisasi yang mengintegrasikan AI ke dalam teknologi operasional, operasi keamanan, atau otomasi perusahaan menghadapi kategori tantangan cyber dan governance yang baru.
Tindakan yang diperlukan
Organisasi harus menerapkan penerapan AI bertahap, izin terbatas, persetujuan manusia-dalam-loop untuk tindakan berisiko tinggi, pemantauan dan audit berkelanjutan, logging yang kuat, lingkungan tersegmentasi, pemodelan ancaman yang kuat, dan implementasi secure-by-design. Panduan ini merekomendasikan perlakuan keamanan AI sebagai tertanam dalam kerangka kerja cybersecurity yang ada daripada disiplin mandiri.