무슨 일이 있었나
호주의 디지털 변환청(DTA)은 정부에 배포된 agentic AI 시스템을 위한 정책 지침인 새로운 'Agentic AI 부록(Agentic AI Addendum)'을 발행했다. 2026년 6월 말에 발행된 플레이북은 세 가지 감시 모델을 정의한다: 루프 내 인간(human in the loop), 루프 상의 인간(human on the loop), 루프 밖의 인간(human out of the loop)이며, 지속적인 모니터링에 대한 강한 선호를 보인다. 주요 요구사항은 다음을 포함한다: 필수 책임성 매핑(각 에이전트의 행동에 대해 책임이 있는 사람 식별); 감사 가능한 추론 로그; 메모리 거버넌스; 및 사후 대책이 아닌 설계 요구사항으로 취급되는 내장 킬스위치. 지침은 설계부터 폐기까지 전체 에이전트 생명주기를 다룬다. 2026년 6월 25일에 공공부문 마케팅 연구소의 AI SIX 팟캐스트(에피소드 423)를 통해 보도되었으며, DTA에서 제공된 것으로 설명되었다.
왜 중요한가
이는 자율형 AI 에이전트를 구체적으로 다루는 정부 발행 기술 거버넌스 프레임워크 중 최초 중 하나이며, 챗봇 거버넌스를 넘어선 조치이다. 이는 agentic AI를 조달하거나 배포하는 호주 연방 기관에 대한 구속력 있는 기대치를 확립하며, APAC 동료 정부 및 전 세계 기업 AI 거버넌스 프레임워크에 영향을 미칠 가능성이 높다. '에이전트를 멈출 수 있는 능력을 설계 요구사항으로 취급한다'는 요구사항은 구체적인 안전 기준선을 설정한다. 프레임워크는 메모리 중독(memory poisoning), 도구 사용 제어, 인간 책임성 체인을 다루며, 이는 대부분의 관할권에서 사전 규제 지침이 없는 문제들이다.
필요한 조치
호주 정부 기관: DTA Agentic AI 부록을 검토하고 모든 기존 및 계획된 agentic AI 배포를 세 가지 감시 모델 분류에 대해 매핑하며; 킬스위치 메커니즘과 책임성 체인이 배포 전에 문서화되도록 보장하라. 민간부문: DTA 프레임워크를 기업 agentic AI 배포를 위한 거버넌스 벤치마크로 사용하며, 특히 정부 계약이 관련된 경우 그러해야 한다.