CNIPA.AI
검색으로 돌아가기
기록

一种面向类别公平性的成员推理攻击方法及装置

발명유효
6조회수
7청구항 · 1 독립항
§ Ⅰ

개요

발명자

古天龙; 付凯; 郝峰锐; 王学敏

IPC 분류

G06N 3/094 (2023.01)G06N 3/09 (2023.01)G06N 5/04 (2023.01)G06F 18/2415 (2023.01)G06F 18/2431 (2023.01)G06F 18/214 (2023.01)G06F 21/62 (2013.01)

本发明公开了一种面向类别公平性的成员推理攻击方法及装置。该方法在黑盒访问条件下,通过影子模型与参考模型联合建模,实现难度校准与类别公平性增强。首先,影子模型用于拟合目标模型的行为并生成带成员标签的数据;其次,训练若干参考模型,对输入样本计算难度校准分数以修正成员得分偏差;然后,将目标成员分数与校准分数及类别标签融合构建攻击特征,并引入基于成员身份的监督对比学习(MSCL)机制,以同为成员或同为非成员的样本对作为正样本对进行特征对齐。进一步地,依据类别记忆度的估计值为不同类别分配自适应权重,使低记忆度类别在训练中获得更高关注,从而缓解类别间脆弱性不均衡问题。最终,通过攻击模型输出的成员概率实现样本成员身份判定。该方法能够在保持总体攻击性能的同时显著降低类别间脆弱性差异,实现更公平的隐私风险评估;同时,所需参考模型数量较少,计算开销低,具有良好的可扩展性与实用价值。