무슨 일이 있었나
10월 28일 Cisco는 다중 턴 대화, 도구 사용, MCP 상호작용, 멀티모달 입력 전반에서 유해하거나 허용되지 않는 AI 에이전트 동작을 탐지하기 위한 신경기호 규칙 언어이자 평가 엔진인 Project Quarry를 오픈소스로 공개했습니다. 규칙은 ML/LLM 판정 신경 신호(예: 도구 결과 내 프롬프트 인젝션)와 정확한 기호 검사를 결합하고, 제품이 경고/차단/삭제/격리 조치에 매핑하는 증거(단계, 일치 필드, 마스킹된 비밀 발췌)를 반환합니다.
왜 중요한가
이는 Snort/YARA/Sigma와 유사한 에이전트 보안을 위한 공유되고 테스트 가능한 정책 계층을 목표로 하며, 개별적으로 허용된 일련의 작업 전체에서만 나타나는 공격을 해결합니다 — 이는 단일 메시지 분류기와 작업별 인증 제어가 놓치는 공백입니다.
적용 범위
에이전트 런타임 가드레일, 사후 추적 평가, 사고 대응을 구축하는 보안 팀은 세션 수준 에이전트 탐지를 위해 OSS를 평가해야 하며, 벤더는 Quarry를 공유 규칙 형식으로 채택하는 것을 고려해야 합니다.