指南  ·  2026-10-23

OWASP GenAI安全项目发布《GenAI红队测试手册》v1.0

指南High 影响Global
2026年10月20日,OWASP GenAI安全项目的人工智能红队倡议发布了其《GenAI红队测试手册:生成式AI模型与系统对抗性测试实用指南》v1.0——这是一份144页的出版物,可在genai.owasp.org免费下载。该手册提出了一种八阶段方法论(规划/范围界定、侦察、攻击面映射、直接AI/多模态漏洞测试、智能体攻击向量(包括权限提升)、护栏规避和资源耗尽、后利用/影响及爆炸半径映射、评估与报告、修复),并提供了可复现的指标和明确的红队到蓝队交接流程,使发现能够转化为修复措施。
它填补了一个实际空白:大多数实用的GenAI安全指南止步于提示注入,而本手册为生成式和智能体系统的对抗性测试提供了结构化、供应商中立、端到端的方法论,包括智能体权限提升和护栏规避。它补充了OWASP十大LLM/智能体应用风险,并为红队、QA和审计人员提供了用于AI评估范围界定和报告的通用方法和指标。
采用手册中的八阶段方法论进行LLM/智能体红队测试项目;将演练范围界定、指标和红队到蓝队交接与该方法论对齐;使用它来规划针对OWASP十大风险的评估。
OWASP GenAI Security Project — Resources Library (lists the manual)OWASP GenAI Security Project — AI Red Teaming Initiative
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →