Defense  ·  用語集

Behavioral detonation (dynamic AI-skill sandboxing)

疑わしいAI「スキル」またはプラグインを隔離されたテスト環境で実行し、その実際の動作を監視するセキュリティ技術です。既知の悪いパターンについてコードをスキャンするのではなく、静的スキャナーに無害に見えるように特別に設計されているが、実行されたときにのみ有害な動作を明らかにするマリシャススキルを検出します。
研究により、攻撃者はすでにAIスキルマーケットプレイスの単純なコードスキャンを回避できることが示されているため、AIエージェントの「スキル」を採用するエンタープライズは、1回限りのアップロードチェックだけではなく、このランタイムレイヤーの防御が必要です。
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →