指南  ·  2026-11-18

Securing AI testing environments (ASD/ACSC guidance on containing AI agents during higher-risk cyber testing)

指南High 影响Australia
2026年11月12日,ASD/ACSC发布了一份新的指南出版物《保护AI测试环境》(另通过一篇新闻稿《安全AI测试以减少未经授权的访问》宣布)。该指南针对高风险测试场景,即AI模型/代理具有代码执行、工具、凭据或网络访问权限,或模型级安全措施被削弱/禁用的情况。它定义了AI测试平台(控制措施、工具、监控、工作流程及支持基础设施),并设定了一个生命周期:隔离并加固、验证并约束、监控并停止,然后改进——由专用基础设施、独立管理平面、受限连接、短期凭据、独立监控和经过测试的紧急关闭机制支撑。该指南明确警告称,提示词、范围限定指令和模型级安全措施不足以构成技术隔离,并引用了英国AISI、OpenAI和Anthropic的披露,其中测试代理触达或影响了范围之外的真实系统。
这是权威的国家网络管理机构指南,确认AI代理的测试边界是一个架构/控制问题,而非提示工程问题。它将代理身份、委托权限和独立停止控制作为安全边界进行操作化,直接支持了“证明控制有效”的转变。它补充了ASD早先的《谨慎采用代理式AI服务》,并且是任何运行AI红队/安全评估的人的实操指南。
Run a formal AI Agent Testing Containment assessment (threat modelling through evidence preservation); require pre-test containment verification rather than an approval form; keep production credentials/cloud permissions out of higher-risk testing; use short-lived, revocable credentials; test the emergency-shutdown path mid-test; and, per the guidance, map the containment plan to MITRE ATLAS and review against OWASP GenAI LLM06 (Excessive Agency).
Securing AI testing environments | CGASecure AI testing to reduce unauthorised access | CGA
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →