Attack  ·  用語集

Compositional exploit (autonomous coding agents)

個々には軽微な弱点をいくつも組み合わせることで、悪意ある攻撃者が自律型コーディングエージェントを乗っ取れるようにする攻撃。個々のチェックや監査ログはそれ自体は問題ないように見えるが、小さな隙間の連鎖が、エージェントの行動をレビューするために監査者が使うモデルを無力化する。
単一の欠陥は深刻に見えないため、標準的な監査やエージェントセキュリティレビューでは、エージェントが実際には完全に制御可能であるにもかかわらず、安全であると認定してしまう可能性がある — つまり、レビュー自体が誤った自信を与えることになる。
MITRE ATLAS
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →