面向通信成本优化的联邦学习算法

摘要：

联邦学习是一种能够保护数据隐私的机器学习设置,然而高昂的通信成本和客户端的异质性问题阻碍了联邦学习的规模化落地.针对这两个问题,提出一种面向通信成本优化的联邦学习算法.首先,服务器接收来自客户端的生成模型并生成模拟数据;然后,服务器利用模拟数据训练全局模型并将其发送给客户端,客户端利用全局模型进行微调后得到最终模型.所提算法仅需要客户端与服务器之间的一轮通信,并且利用微调客户端模型来解决客户端异质性问题.在客户端数量为20个时,在MNIST和CIFAR?10这两个数据集上进行了实验.结果表明,所提算法能够在保证准确率的前提下,在MNIST数据集上将通信的数据量减少至联邦平均(FedAvg)算法的1/10,在CIFAR-10数据集上将通信数据量减少至FedAvg算法的1/100.

关键词：联邦学习、优化算法、通信成本、单轮通信、生成模型

所属期刊栏目：43

分类号：TP181(自动化基础理论)

资助基金：国家重点研发计划;国家自然科学基金

在线出版日期：2023-02-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：1-7