一种基于自适应的分层压缩联邦学习方法、设备及介质

本申请属于分布式机器学习技术领域，公开了一种基于自适应的分层压缩联邦学习方法、设备及介质，该方法包括：服务器端基于动态计算的客户端参与率和稀疏率选择客户端并分发全局模型参数；客户端在本地训练后，计算梯度变化，并依次进行分层、动态稀疏化及稀疏阈值记录、三元量化和1‑bit压缩感知处理，将得到的压缩值、稀疏阈值及训练损失上传至服务器；服务器端接收数据后，一方面基于所有客户端上传的训练损失，通过自适应参与率算法和动态稀疏率算法，计算并更新下一轮的参与率和稀疏率，另一方面对接收的压缩参数进行重构和加权聚合以更新全局模型。本发明方法显著降低通信开销的同时，保持了与无损传输方案几乎无异的模型性能。