多智能体系统的风险和控制(跨组织AI智能体交互)

澳大利亚AI安全研究所(隶属于工业、科学和资源部)发布了其首份公开报告,由梯度研究所委托编制,为AI智能体跨组织边界交互所产生的风险、控制和治理安排提供了分析框架。该报告论证,现有AI智能体治理框架——包括NIST的AI RMF、OWASP的Agentic Top 10和新加坡的Model AI Governance Framework——都假定单个组织控制系统中的每个智能体,但随着供应链智能体、面向客户的助手和采购机器人日益跨越公司边界进行交互,这一假设便不再成立。该报告以梯度研究所先前的单组织多智能体研究为基础(引用自2026年国际AI安全报告),扩展了"安全智能体的集合不保证智能体集合的安全性"的发现,论证治理良好的智能体系统集合本身并不构成治理良好的跨组织系统。该报告被描述为全球首份从分析角度将跨组织AI智能体风险作为独特治理问题进行论述的政府出版物。

部署与合作伙伴、供应商或客户智能体交互的agentic AI的企业面临现有任何框架(NIST、OWASP、新加坡)都未解决的治理缺口——首席信息安全官和风险负责人需要在事件发生前将跨组织智能体交互作为一个独特的控制类别来对待。

风险和安全团队应审计其AI智能体与第三方或合作伙伴智能体交互的点,并根据该报告的跨组织风险分类评估暴露程度。