Attack  ·  用語集

Model distillation (unauthorized)

あるAIモデルの出力(隠れた推論プロセスを含む)を用いて、許可なく、多くの場合支払いもなしに、その能力を模倣するより安価なモデルを訓練すること。これを大規模かつ組織的に行うキャンペーンは、モデル提供者にとっては厳重に保護された能力の窃取として扱われる。
モデル開発者にとって、無許諾の蒸留は最も高価な資産の価値を損なうものであり、企業にとっては、どの提供者が独自のモデル挙動を保護できるかという疑問を生じさせる。
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →