基于元蒸馏的个性化联邦学习算法

摘要：

联邦学习(FL)中客户端数据异构导致训练的统一模型无法满足每个客户端对性能的需求.针对这一问题,提出了一种个性化联邦学习算法——元蒸馏联邦学习,将知识蒸馏和元学习与FL结合,并将个性化过程嵌入FL.在每次全局迭代中,每个客户端的本地模型(即学生模型)在蒸馏全局模型(即教师模型)的同时将自身情况反馈给教师模型并使其不断更新,从而获得一个更优的教师模型以进行个性化学习.仿真结果表明,与现有个性化算法相比,所提算法在提高个性化精度的同时能在全局精度和个性化精度之间取得较好的折中.

关键词：联邦学习、元学习、知识蒸馏、个性化

所属期刊栏目：46

分类号：TP181(自动化基础理论)

资助基金：北京市自然科学基金L202016

在线出版日期：2023-03-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：12-18