Apa yang terjadi
Badan Keamanan Siber dan Infrastruktur Amerika Serikat (CISA), berkolaborasi dengan Direktorat Sinyal Australia (ASD), Pusat Keamanan Siber Kanada, Pusat Keamanan Siber Nasional Selandia Baru, dan Pusat Keamanan Siber Nasional (NCSC) Inggris, menerbitkan penasihat bersama yang menguraikan panduan desain, pengembangan, dan penerapan untuk sistem AI agentic. Penasihat ini mengamanatkan kepatuhan ketat terhadap prinsip least-privilege, pemantauan dan audit berkelanjutan, kontrol human-in-the-loop untuk tugas-tugas non-sensitif, praktik pengembangan aman sesuai dengan fondasi DevSecOps, dan pengujian respons insiden secara berkala.
Mengapa penting
Ini adalah panduan multi-negara terkoordinasi pertama yang secara khusus menargetkan keamanan AI agentic. Penasihat ini secara eksplisit mengatasi prompt injection, tool misuse, privilege creep, identity spoofing, dan agent impersonation—vektor serangan yang model keamanan aplikasi tradisional tidak dirancang untuk menangani. Penekanan CISA pada least privilege untuk agent (bukan hanya pengguna) dan audit berkelanjutan mencerminkan pengakuan yang berkembang bahwa agent AI beroperasi pada kecepatan mesin di seluruh sistem terdistribusi, membuat mereka sulit diamankan dengan batasan kepercayaan statis. Organisasi yang menerapkan agent tanpa mengimplementasikan kontrol ini berisiko memberikan penyerang jejak yang persisten dan otomatis dengan izin yang ditingkatkan.
Tindakan yang diperlukan
CISO harus melakukan inventaris semua agent AI yang diterapkan, mendokumentasikan data, alat, dan sistem apa yang dapat diakses oleh setiap agent. Implementasikan kebijakan least-privilege yang membatasi izin agent pada minimum yang diperlukan untuk setiap tugas. Tetapkan pemantauan berkelanjutan untuk menandai perilaku agent yang menipu, panggilan API yang tidak biasa, atau scope creep. Untuk agent dengan kemampuan tool-use (misalnya, server MCP, alat LangChain), berlakukan persetujuan manusia untuk tindakan yang memodifikasi infrastruktur, mengakses data sensitif, atau menjalankan kode. Tinjau dan uji rencana respons insiden khusus untuk skenario kompromi AI agentic.