정의
AI 에이전트가 수행하는 모든 작업, 도구 호출 및 데이터 접근에 대한 상세하고 재구성 가능한 로그를 기록하여 그 행동을 실시간 또는 사후에 검토할 수 있도록 하는 것. 스스로 작동하는 소프트웨어를 위한 '블랙박스'라고 생각하면 된다.
왜 중요한가
에이전트가 자격 증명을 보유하고 실제 작업을 수행할 수 있는 경우, 블랙박스는 사고를 조사하고 에이전트가 실제로 무엇을 했는지 증명할 수 있는 유일한 방법이다 — 이는 책임 소재 규명과 보험에 필수적이다.