검색으로 돌아가기
기록
一种基于多尺度专家协同的联邦持续学习方法
발명유효
25청구항 · 17 독립항
§ Ⅰ
개요
발명자
张健; 陈婧; 弋晓洋; 鲍玉茹; 田心宁; 彭莉; 王亚欣; 贾菲钒; 于潼; 陈剑锋
IPC 분류
G06N 20/00 (2019.01)G06N 3/098 (2023.01)G06F 18/25 (2023.01)G06F 18/213 (2023.01)G06F 18/22 (2023.01)G06N 3/096 (2023.01)
本发明属于计算机技术领域,涉及一种基于多尺度专家协同的联邦持续学习方法。该方法包括:1)每个客户端基于预训练基础模型构建多适配器增强架构,在首个任务阶段进行适配器参数微调;2)每个客户端利用旧任务语义特征与新任务样本特征,原型初始化,将历史知识融入新类别表征学习;3)每个客户端将预训练模型划分为多个特征学习专家模块,分别提取不同层次的特征表示,并通过多尺度特征学习损失协同优化各专家分类性能;4)每个客户端采用不确定性加权的多教师自蒸馏机制,将浅层纹理特征与深层语义知识动态融合至最终专家;5)服务器端通过加权聚合机制整合各客户端的适配器参数与多尺度类别原型,形成全局知识库并分发至所有客户端。