自适应量化权重用于通信高效联邦学习

摘要：

针对联邦学习训练过程中通信资源有限的问题,本文提出了两种联邦学习算法:自适应量化权重算法和权重复用控制算法,前者对权重的位数进行压缩,减少通信过程中传输的比特数,算法在迭代过程中,自适应调整量化因子,不断减少量化误差;后者能阻止不必要的更新上传,从而减少上传的比特数.基于标准检测数据集Mnist和Cif-ar10,在CNN和MLP网络模型上做了仿真模拟,实验结果表明,与典型的联邦平均算法相比,提出的算法降低了75％以上的通信成本.

关键词：联邦学习、自适应量化、权重复用、通信成本

所属期刊栏目：39

分类号：TP391;TN919.81;TP273

资助基金：湖北省教育厅科学技术研究计划重点项目D20131503

在线出版日期：2023-03-07（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：1961-1968