Fine-grained authorization (FGA) bypass

一種のアクセス制御の失敗であり、各ユーザーが特定のレコードのみを閲覧できるように意図されているにもかかわらず、バグにより拒否されたドキュメントがAIモデルに到達してしまう問題です。その結果、モデルは本来見るべきではなかったデータについて静かに話し出します。これは、AIがビジネスの他の部分と同じ権限ルールに従うという約束を破るものです。

これは、機密データをAIの回答に静かに漏らし、コンプライアンス違反と顧客の信頼喪失の両方を引き起こす可能性があります。