무슨 일이 있었나
호주 AI 안전 연구소(산업, 과학 및 자원부 내)는 Gradient Institute에서 의뢰한 inaugural public report를 발표했으며, 이는 AI 에이전트가 조직 경계를 넘어 상호작용할 때 발생하는 위험, 제어 및 거버넌스 구조에 대한 분석 프레임워크를 제공한다. 본 보고서는 기존의 AI 에이전트 거버넌스 프레임워크 — NIST의 AI RMF, OWASP의 Agentic Top 10, 싱가포르의 Model AI Governance Framework — 가 모두 단일 조직이 시스템의 모든 에이전트를 통제한다고 가정하며, 이 가정은 공급망 에이전트, 고객 대면 어시스턴트, 조달 봇이 점점 더 회사 라인을 넘어 상호작용함에 따라 무너진다고 주장한다. Gradient Institute의 이전 단일 조직 멀티 에이전트 연구(2026 International AI Safety Report에 인용됨)를 기반으로, 본 보고서는 '안전한 에이전트의 집합이 안전한 에이전트 집합을 보장하지 않는다'는 발견을 확장하여 '통제된 에이전트 시스템의 집합 자체가 통제된 조직 간 시스템을 구성하지 않는다'고 주장한다. 이는 조직 간 AI 에이전트 위험을 별개의 거버넌스 문제로 분석적으로 다루는 세계 최초의 정부 발표로 설명된다.
왜 중요한가
파트너, 공급업체 또는 고객 에이전트와 상호작용하는 agentic AI를 배포하는 기업은 기존 프레임워크(NIST, OWASP, 싱가포르)에서 현재 다루지 않는 거버넌스 공백에 직면해 있으며 — CISO 및 위험 담당자는 사건이 발생하기 전에 조직 간 에이전트 상호작용을 별개의 제어 범주로 취급해야 한다.
필요한 조치
위험 및 보안 팀은 자신의 AI 에이전트가 제3자 또는 파트너 에이전트와 상호작용하는 지점을 감사하고 본 보고서의 조직 간 위험 분류법에 대한 노출을 평가해야 한다.