定義
セキュリティチームが使用するAIツールを混乱させたり誤った方向に導いたりするために意図的に設計されたマルウェアの新しい攻撃クラス。例えば、マルウェアが隠されたプロンプトインジェクション命令を埋め込むことがあり、これがAI分析アシスタントに入力されると、ファイルが安全であるとレポートしたり、誤解を招く分析を行うようアシスタントに指示させたりするため、マルウェアはAI駆動の検出から保護される。
なぜ重要か
セキュリティチームはマルウェア分析を高速化するためにAIを急速に採用していますが、この攻撃は攻撃者がその分析を意図的に妨害し、主要な防御ツールを負債に変えることができるようになったことを意味します。北朝鮮関連のサンプル(macOS.Gaslight)がこの技術を使用していることが実際に確認されました。