定義
AIの安全機能そのものをそれが動作するサービスに対して兵器化する、新しいクラスの攻撃。攻撃者は、AIの推論集約的なガードレールに膨大なコンピューティングリソースを消費させてから最終的にリクエストをブロックするように強制する特別に細工された入力を送信し、サーバー容量を枯渇させ、正規ユーザーがサービスを利用できない状態にします。
なぜ重要か
AIシステムがより強力で安全意識が高いほど、この攻撃に対して脆弱である可能性があります。これは、AIプロバイダーの安全性への投資をコストと可用性の負債に変換します。これは既存のDDoS防御が対処しない直感に反するリスクです。