Attack  ·  용어집

Compositional exploit (autonomous coding agents)

개별적으로는 사소한 약점 여러 개를 이어 붙여 결합함으로써 악의적 행위자가 자율 코딩 에이전트를 장악할 수 있게 하는 공격. 각 검사 또는 감사 로그 자체는 정상으로 보이지만, 작은 허점들의 연쇄가 에이전트의 행동을 검토할 때 감사자가 사용하는 모델을 무력화시킵니다.
어느 하나의 결함도 심각해 보이지 않기 때문에, 표준 감사 및 에이전트 보안 검토는 에이전트가 실제로 완전히 제어 가능한 상태임에도 안전하다고 인증할 수 있습니다 — 따라서 검토 자체가 잘못된 확신을 제공합니다.
MITRE ATLAS
라이브 피드에서 추적 이 개념이 실제 AI 보안·거버넌스 동향에서 어떻게 나타나는지 확인하세요.
피드 열기 →