Defense  ·  용어집

Approval gate (agentic AI)

AI 에이전트 워크플로우의 체크포인트로, 파일 삭제, 메시지 전송, 명령 실행 등 결과적 작업을 수행하기 전에 인간 또는 별도의 인증 시스템이 검토 및 확인해야 합니다. Approval gate는 자율 AI 행동에 대한 주요 안전 장치입니다.
Approval gate가 비활성화되거나 자동 승인으로 하드코딩되어 있을 때 — 실제 프로덕션 시스템에서 발견되는 경우 — 조직은 잠재적으로 파괴적인 AI 작업에 대한 유일한 인간의 확인을 상실하게 되어, 의도하지 않은 또는 악의적으로 트리거된 피해에 기계 속도로 노출됩니다.
참고 자료
NIST AI Risk Management Framework — Human Oversight
라이브 피드에서 추적 이 개념이 실제 AI 보안·거버넌스 동향에서 어떻게 나타나는지 확인하세요.
피드 열기 →