무슨 일이 있었나
PraisonAI의 프롬프트 인젝션 방어는 CRITICAL로 분류된 위협만 차단하며, 이는 3개 이상의 탐지기 패밀리가 동시에 일치해야 합니다. 공격자는 CRITICAL 분류를 회피하면서도 인젝션의 의도한 효과를 달성하는 단일 또는 이중 벡터 프롬프트 인젝션을 작성하여 방어를 완전히 우회할 수 있습니다.
왜 중요한가
이는 에이전트 AI 프레임워크의 목적별 프롬프트 인젝션 방어 메커니즘의 직접적인 우회로, 다중 탐지기 패밀리 AND-게이팅 임계값이 견고한 보호보다는 악용 가능한 격차를 만든다는 것을 입증하며, 유사한 앙상블 기반 프롬프트 인젝션 탐지를 사용하는 모든 프레임워크에 대한 주의 사항입니다.
공격 경로
공격자가 3개 탐지기 패밀리 CRITICAL 임계값 아래에 머물기 위해 1개 또는 2개의 탐지기 트리거 벡터만 사용하여 프롬프트 인젝션을 작성하여 방어를 회피하면서 동시에 인젝션 효과를 달성합니다.
영향받는 시스템
PraisonAI (pip package praisonaiagents) < 4.6.78
완화 방안
PraisonAI ≥4.6.78로 업그레이드하세요.