针对机器学习的成员推断攻击综述

摘要：

近年来,机器学习不仅在计算机视觉、自然语言处理等领域取得了显著成效,也被广泛应用于人脸图像、金融数据、医疗信息等敏感数据处理领域.最近,研究人员发现机器学习模型会记忆它们训练集中的数据,导致攻击者可以对模型实施成员推断攻击,即攻击者可以推断给定数据是否存在于某个特定机器学习模型的训练集.成员推断攻击的成功,可能导致严重的个人隐私泄露.例如,如果能确定某个人的医疗记录属于某医院的数据集,则表明这个人曾经是那家医院的病人.首先介绍了成员推断攻击的基本原理;然后系统地对近年来代表性攻击和防御的研究进行了总结和归类,特别针对不同条件设置下如何进行攻击和防御进行了详细的阐述;最后回顾成员推断攻击的发展历程,探究机器学习隐私保护面临的主要挑战和未来潜在的发展方向.

关键词：机器学习、成员推断、隐私泄露、隐私保护

所属期刊栏目：50

分类号：TP181(自动化基础理论)

资助基金：国家自然科学基金U1936122

在线出版日期：2023-03-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：351-359