Shared inference infrastructure risks

オンラインAIプラットフォームは、多くの場合、同じ推論インフラストラクチャから多数の顧客にサービスを提供しており、このクラスタはその結果生じるリスクに関するものです。テナント分離が不十分だと、ある顧客のデータが別の顧客に漏洩する可能性があり、改ざんされた使用量カウンタは請求額を不当に膨らませたり、アカウントのクォータを枯渇させたりする可能性があります。リーダーにとっては、共有された高価値サービスを保護し、計量することが重要です。