定義
AI アプリケーションに電力を供給する検索可能な知識データベース（ベクトルストアまたはベクトルデータベースと呼ばれる）を対象とした攻撃。攻撃者はそのデータベースに特別に細工されたコンテンツを挿入することで、AI が取得する情報を操作し、AI の回答をコントロールまたは破損させることができます。これは、AI が話す前に参照するリファレンスライブラリを改ざんすることに類似しています。
なぜ重要か
ベクトルストアはほとんどのエンタープライズ AI アシスタントの信頼できる知識バックボーンです。1 つを侵害されると、AI が処理するすべてのクエリに対して静かに毒を仕込むことができ、ビジネス上の意思決定、コンプライアンスドキュメント、または顧客インタラクションに大規模な影響を与える可能性があります。