Apa yang terjadi
Pada 28 Oktober, Cisco merilis Project Quarry sebagai open source, sebuah bahasa aturan neurosimbolik plus mesin evaluasi untuk mendeteksi perilaku agen AI yang berbahaya atau tidak diizinkan di seluruh percakapan multi-giliran, penggunaan alat, interaksi MCP, dan input multimodal. Aturan menggabungkan sinyal neural ML/LLM-judge (misalnya, injeksi prompt dalam hasil alat) dengan pemeriksaan simbolik yang tepat, dan mengembalikan bukti (langkah, field yang cocok, kutipan rahasia yang disamarkan) yang dipetakan produk ke tindakan alert/block/redact/quarantine.
Mengapa penting
Ini bertujuan menjadi lapisan kebijakan bersama yang dapat diuji untuk keamanan agen, analog dengan Snort/YARA/Sigma, menangani serangan yang hanya terwujud di seluruh urutan tindakan yang diizinkan secara individual — celah yang dilewatkan oleh pengklasifikasi pesan tunggal dan kontrol otorisasi per-tindakan.
Cakupan penerapan
Tim keamanan yang membangun guardrail runtime agen, evaluasi jejak pasca-hoc, dan respons insiden harus mengevaluasi OSS ini untuk deteksi agen tingkat sesi; vendor harus mempertimbangkan mengadopsi Quarry sebagai format aturan bersama.