一种基于差分隐私的可追踪深度学习分类器

摘要：

随着深度学习在各个领域的广泛应用,数据收集和训练过程中产生的隐私泄露问题已成为阻碍人工智能进一步发展的原因之一.目前已有很多研究将深度学习与同态加密或者差分隐私等技术结合以实现对深度学习中的隐私保护.从另一个角度尝试解决这个问题,即在一定程度上保证训练数据集隐私性的基础上,实现对训练数据计算节点的可追踪性.提出了一种基于差分隐私的可追踪深度学习分类器,结合差分隐私和数字指纹技术,在为训练数据集提供隐私保护的同时保证在出现非法传播的训练模型或者数据集时,能根据其中的指纹信息定位到问题训练节点.该分类器既能保证安全判定分类功能,又能保证指纹的不可感知性、鲁棒性、可信度和可行性等基本特征.从后续的公式推导、理论分析和在真实数据的仿真结果表明,该方案能够满足深度学习中对隐私信息的安全可追踪性的需求.

关键词：深度学习、分类器、差分隐私、数字指纹、隐私保护、可追踪性

所属期刊栏目：8

分类号：TP183(自动化基础理论)

资助基金：国家自然科学基金;国家重点研发计划;西藏科技厅自然科学基金项目;江苏省重点研发计划项目

在线出版日期：2022-03-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共15页

页码：277-291