Attack  ·  用語集

Privilege escalation (AI context)

攻撃者が脆弱性を悪用して、本来与えられるべき以上の権限や権利を獲得する場合 — 例えば、AIプラグインの通常ユーザーが管理者アクセスを獲得し、それによってAPIキーを盗んだり、AI設定を変更したり、他のユーザーのデータにアクセスしたりすることができます。
AIプラグインとツールはしばしばビジネスシステムに深く統合され、機密認証情報を保持しています。AIツールの単一の権限昇格の欠陥により、攻撃者は組織全体のAIインフラストラクチャの鍵を手に入れることができます。
参考資料
MITRE ATT&CK — Privilege Escalation
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →