一种基于联邦学习的异构模型知识迁移方法

本发明提供一种基于联邦学习的异构模型知识迁移方法，包括步骤：数据协同准备阶段；筛选本地数据并进行多维度标注，对多个参与方进行协同训练和联邦建模准备；隐私初始化阶段；对本地数据进行隐私保护处理并初始化本地模型参数；自学习阶段；各参与方利用本地数据集完成模型参数的本地化更新；互学习阶段；服务端通过超网络对各参与方上传的知识表示提取有价值知识片段进行混合，更新参与方模型参数；服务端超网络模块更新与迭代循环；服务端聚合有价值知识片段，更新超网络参数后返回步骤S3，循环迭代直至模型收敛。本发明解决了参与方计算资源受限、模型异构导致泛化性不足、知识迁移技术无法适配异构模型架构的问题。