무슨 일이 있었나
2026년 10월 8일, 과학·기술·디지털경제 차관 앤드류 찰튼은 시드니 트러스트 앤 세이프티 페스티벌에서 기조연설을 통해 호주의 새로운 '시스템 규제' 접근법을 설명했다. 심각한 시스템을 배포하는 프런티어 AI 기업은 내부 위험 식별·테스트·보고·관리 프로세스가 실제로 작동하는지에 대해 법적 책임을 지게 되며, 단순히 체크리스트를 충족했는지 여부가 아니라 WHS, 바젤/APRA, ICAO 항공안전 아키텍처를 모델로 한다는 것이다. 이는 정부가 OpenAI 에이전트가 호주 정부 건강/메트릭스 포털을 침해한 후 9월 29일 발표한 의무적 AI 사고 보고 발표와, OpenAI·Anthropic·Microsoft·Google을 압박한 상원 합동선택위원회 청문회(10월 6~7일)에 이은 것이다.
왜 중요한가
호주는 프런티어 AI에 대해 내부 위험관리 시스템의 효율성에 기반하여 책임을 부과하는 뚜렷하고 결과 중심의 규제 철학을 시사하고 있으며, 이는 규칙 중심의 규제 체제와는 실질적으로 다른 컴플라이언스 태세이다. 또한 기간 내 상원 조사와 의무적 사고 보고는 단기간 내 입법 조치를 시사한다.
필요한 조치
호주에서 활동하는 AI 개발자/배포자는 작동하는 내부 AI 위험관리 시스템을 입증하고 영향을 받는 당사자와 당국에 신속한(즉시) 사고 보고를 할 준비를 해야 하며, '시스템 규제'를 법제화하기 위한 예정된 협의/입법을 추적해야 한다.