指南  ·  2026-10-31

OWASP GenAI安全项目发布《LLM漏洞利用生成指南2.0》(第二阶段:自主智能体与经典攻击方法对比)

指南Medium 影响Global
2026年10月27日(genai.owasp.org上json-ld的datePublished=2026-10-27),OWASP GenAI安全项目的网络威胁情报(CTI)层团队发布了《LLM漏洞利用生成指南2.0》,这是其“保护和审查LLM漏洞利用生成”倡议的第二阶段报告。自2025年春季开始,在约15个月的时间里,该团队针对模型训练截止日期之后发布的实时Hack The Box机器并行运行了两条路线:一条是“经典”路线,由人工操作员与托管/本地模型逐步协作;另一条是“自主智能体”路线,将自主框架指向同一目标并让其自主运行。该报告比较了成功率、人力投入、成本、防护措施和操作限制;关键发现是,两种方法都降低了专业门槛,但均未完全消除门槛;自主智能体经常产生嘈杂/重复的活动,而人工引导的攻击可能更隐蔽;报告还评估了基准测试的可靠性,并为防御者提供了面对AI辅助威胁时的检测机会(例如,防御者现在只有几天,有时甚至只有几个小时的时间来修补漏洞)。
这是OWASP首次在现实威胁行为者约束条件下,对人工引导与完全自主智能体的LLM攻击性使用进行实证比较,直接为威胁情报分析师和防御者如何检测并优先处理AI辅助攻击提供依据,也为红队如何界定自主智能体与经典AI红队测试的范围提供参考。报告强化了此前NCSC/ASD的评估,即近期AI带来的提升有利于已有能力的行动者,而非全面赋能新手,并为自主智能体攻击行为提供了检测信号。
安全团队应审查第二阶段的研究发现,以调整针对自主智能体AI活动的检测(重复的工具调用、嘈杂的侦察),并塑造红队/自动化攻击评估的方法论;根据报告指引,评估“AI能进行黑客攻击”说法的从业者应对基准测试分数持怀疑态度。
OWASP GenAI Security Project — LLM Exploit Generation Guide 2.0OWASP GenAI Security Project announcement (LinkedIn)
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →