検索に戻る
案件記録

一种基于记忆值的成员推理攻击公平防御方法及装置

発明有効
7請求項 · 1 独立
§ Ⅰ

案件概要

発明者

古天龙; 付凯; 郝峰锐; 王学敏

IPC分類

G06N 3/094 (2023.01)G06N 3/084 (2023.01)G06N 3/09 (2023.01)G06F 21/62 (2013.01)G06F 18/241 (2023.01)G06F 18/2431 (2023.01)

本发明公开了一种基于记忆值的成员推理攻击公平防御方法及装置。该方法针对不同类别在成员推理攻击(MIA)中防御难度不均的问题,通过引入类别记忆值评估机制,实现差异化隐私防御策略。首先,系统对目标模型中各类别的样本进行记忆度估计,用于衡量类别被模型记忆或过拟合的程度;然后,根据记忆值的高低自适应地分配防御强度,对记忆值较高、攻击风险更大的类别提高差分隐私随机梯度下降(DP‑SGD)的噪声水平,而对记忆值较低的类别维持较低防御强度,从而在全局隐私预算受限的条件下实现防御资源的最优分配。该方法能够以最低的隐私成本显著提升整体防御效果,在有效降低成员推理攻击成功率的同时保持模型性能稳定。与传统统一防御机制相比,本发明实现了类别层面的公平防御与隐私性能平衡,具有计算成本低、可扩展性强和实用价值高等优点。

ログインして全文を読む

請求項 1 を表示しています。無料登録で全 7 項の請求項、明細書全文、全図面、翻訳、法的状態を閲覧できます。

  • 全請求項
  • 技術分野
  • 背景技術
  • 発明の概要
  • 図面の説明
  • 発明を実施するための形態

外部リソース