定義
AIシステムが受け入れるのがテキストだけではなく、画像、音声、ビデオなどの複数の形式であるため、AIシステムが攻撃される追加的な方法があり、各形式には独自の処理コードが必要であり、バグが含まれる可能性があります。攻撃者はこれらの追加形式のデコード方法を悪用して、システムをクラッシュさせたり、リソースを枯渇させたり、隠れた悪意のあるコンテンツを埋め込むことができます。
なぜ重要か
AIは製品が競争するために音声と画像機能を追加する競争が進む中で、新しい入力タイプが追加されるたびに、セキュリティチームが防御する必要があるものが静かに拡大し、防御が追いつくよりも速く拡大しています。これは広く展開されている推論エンジンにおける繰り返される音声/ビデオデコーディング欠陥によって示されています。