Defense  ·  术语库

Behavioral detonation (dynamic AI-skill sandboxing)

一种安全技术,在隔离的测试环境中运行可疑的AI"技能"或插件,并监视其实际行为,而不仅仅是扫描其代码以查找已知的恶意模式。这可以捕获专门设计为对静态扫描器看起来无害但在执行后才显示有害行为的恶意技能。
研究表明攻击者已经可以规避对AI技能市场的简单代码扫描,因此采用AI agent"技能"的企业需要这种运行时防御层,而不仅仅是一次性的上传检查。
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →