面向机器学习模型的基于PCA的成员推理攻击

摘要：

针对目前黑盒成员推理攻击存在的访问受限失效问题,提出基于主成分分析(PCA)的成员推理攻击.首先,针对黑盒成员推理攻击存在的访问受限问题,提出一种快速决策成员推理攻击fast-attack.在基于距离符号梯度获取扰动样本的基础上将扰动难度映射到距离范畴来进行成员推理.其次,针对快速决策成员推理攻击存在的低迁移率问题,提出一种基于PCA的成员推理攻击PCA-based attack.将快速决策成员推理攻击中的基于扰动算法与PCA技术相结合来实现成员推理,以抑制因过度依赖模型而导致的低迁移行为.实验表明,fast-attack在确保攻击精度的同时降低了访问成本,PCA-based attack在无监督的设置下优于基线攻击,且模型迁移率相比fast-attack提升10％.

关键词：机器学习;对抗样本;成员推理攻击;主成分分析;隐私泄露

所属期刊栏目：43

分类号：TP309.7(计算技术、计算机技术)

资助基金：国家自然科学基金;国家自然科学基金;贵州省科技计划基金资助项目;贵州省教育厅自然科学基金资助项目;贵州大学人才引进科研基金资助项目

在线出版日期：2022-02-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共12页

页码：149-160