定義
AI搭載プラグインまたはチャットボットが、誰が何を見たり実行したりできるかを適切にチェックしないセキュリティ上の欠陥。基本的なサブスクライバーなどの低権限ユーザーがこの欠陥を悪用して、プライベートな会話ログを読み取ったり、保存されたAPIキーを抽出したり、実行を許可されるべきではないアクションをトリガーしたりすることができます。
なぜ重要か
企業のウェブサイトにインストールされた単一の設定ミスのあるチャットボットプラグインにより、攻撃者はAIスタック全体の認証情報（サードパーティのAIプロバイダーへの課金アクセスを付与するキーを含む）を入手する可能性があります。これらのプラグインはセキュリティレビューなしにマーケティングチームまたはオペレーションチームによってインストールされることが多いため、この露出は数か月間検出されないままになる可能性があります。