基于超级账本的集群联邦优化模型

摘要：

联邦学习作为分布式机器学习框架,在数据不离开本地的情况下,通过共享模型参数达到协作训练的目标,一定程度上解决了隐私保护问题,但其存在中心参数服务器无法应对单点故障、潜在恶意客户端梯度攻击、客户端数据偏态分布导致训练性能低下等问题.将去中心化的区块链技术与联邦学习相结合,提出基于超级账本的集群联邦优化模型.以超级账本作为分布式训练的架构基础,客户端初始化后在本地训练向超级账本传输模型参数及分布信息,通过聚类优化联邦学习模型在客户端数据非独立同分布下的训练表现.在此基础上,随机选举客户端成为领导者,由领导者代替中央服务器的功能,领导者根据分布相似度和余弦相似度聚类并下载模型参数聚合,最后客户端获取聚合模型继续迭代训练.以EMNIST数据集为例,数据非独立同分布情况下该模型平均准确率为79.26％,较FedAvg提高17.26％,在保证准确率的前提下,较集群联邦学习训练至收敛的通信轮次减少36.3％.

关键词：区块链、超级账本、联邦学习、隐私保护、智能合约

所属期刊栏目：49

分类号：TP391(计算技术、计算机技术)

资助基金：浙江省尖兵领雁研发攻关计划;浙江省自然科学基金项目

在线出版日期：2023-01-16（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：22-30