Apa yang terjadi
Microsoft merilis dua tools open-source pada 20 Mei 2026, dirancang untuk mengoperasionalkan keamanan AI agent sebagai disiplin teknik berkelanjutan. RAMPART adalah kerangka kerja pengujian yang dibangun di atas PyRIT yang mengubah temuan red-team dan insiden AI menjadi tes keamanan yang dapat diulang dan berjalan dalam pipeline CI/CD, dengan cakupan matang untuk serangan cross-prompt injection di mana agent memproses konten yang berpotensi terracuni dari dokumen, email, atau sumber data lainnya. Clarity adalah alat desain terstruktur yang berjalan sebagai aplikasi desktop, antarmuka web, atau tertanam dalam agent coding, mendorong developer untuk memeriksa asumsi tentang perilaku agent, izin, akses tool, dan batas kepercayaan sebelum implementasi dimulai. Kedua tools tersedia di GitHub dan dirancang untuk mengalihkan keamanan dari checkpoint periodik menjadi proses berkelanjutan.
Mengapa penting
Sistem Agentic AI kini mengambil data, mengakses email, menulis kode, dan menggunakan tools yang terhubung — memperkenalkan permukaan serangan baru (prompt injection, penggunaan tool yang tidak aman, privilege escalation) yang keamanan aplikasi tradisional tidak dirancang untuk mengatasinya. Rilis Microsoft adalah framework open-source pertama dari laboratorium Tier 1 yang bertujuan menanamkan pengujian keamanan langsung ke dalam siklus hidup pengembangan perangkat lunak untuk AI agent, mengatasi kesenjangan di mana sebagian besar pekerjaan keamanan saat ini tetap bersifat filosofis atau berorientasi kerangka kerja daripada dapat ditindaklanjuti secara operasional.
Tindakan yang diperlukan
Para pemimpin teknik yang membangun sistem agentic harus mengevaluasi RAMPART untuk integrasi ke dalam pipeline CI/CD yang ada, memprioritaskan cakupan cross-prompt injection; CISO harus menilai apakah temuan red-team AI internal dapat dikodekan sebagai tes RAMPART untuk mencegah regresi; tim governance harus meninjau bagaimana proses desain review terstruktur Clarity dibandingkan dengan checkpoint review risiko AI yang ada.