一种面向深度神经网络的差分隐私保护算法

摘要：

深度神经网络梯度下降过程中存在较大的梯度冗余,应用差分隐私机制抵御成员推理攻击时,会引入过量噪声.针对上述问题,该文利用Funk-SVD矩阵分解算法将梯度矩阵分解,分别在低维特征子空间矩阵和残差矩阵中添加噪声,利用梯度重构过程消除冗余梯度噪声.重新计算分解矩阵范数并结合平滑敏感度降低噪声规模.同时根据输入特征与输出相关性,将更多隐私预算分配给相关系数大的特征以提高训练精度.最后,根据分解矩阵范数均值提出一种自适应梯度剪裁算法以解决收敛缓慢的问题.算法利用时刻统计计算了在多种优化策略下的累计隐私损失.在标准数据集MNIST和CIFAR-10上验证了该文算法更有效地弥补了与非隐私模型之间的差距.

关键词：差分隐私、Funk-SVD、平滑敏感度、相关性、梯度剪裁

所属期刊栏目：44

分类号：TN918;TP309

在线出版日期：2022-06-01（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：1773-1781