机器学习模型安全与隐私研究综述

摘要：

在大数据时代下,深度学习、强化学习以及分布式学习等理论和技术取得的突破性进展,为机器学习提供了数据和算法层面强有力的支撑,同时促进了机器学习的规模化和产业化发展.然而,尽管机器学习模型在现实应用中有着出色的表现,但其本身仍然面临着诸多的安全威胁.机器学习在数据层、模型层以及应用层面临的安全和隐私威胁呈现出多样性、隐蔽性和动态演化的特点.机器学习的安全和隐私问题吸引了学术界和工业界的广泛关注,一大批学者分别从攻击和防御的角度对模型的安全和隐私问题进行了深入的研究,并且提出了一系列的攻防方法.回顾了机器学习的安全和隐私问题,并对现有的研究工作进行了系统的总结和科学的归纳,同时明确了当前研究的优势和不足.最后探讨了机器学习模型安全与隐私保护研究当前所面临的挑战以及未来潜在的研究方向,旨在为后续学者进一步推动机器学习模型安全与隐私保护研究的发展和应用提供指导.

关键词：机器学习、投毒攻击、对抗样例、模型隐私、人工智能安全

所属期刊栏目：32

分类号：TP18(自动化基础理论)

资助基金：国家重点研发计划;浙江省自然科学基金;浙江省科技计划;国家自然科学基金

在线出版日期：2021-02-25（万方平台首次上网日期，不代表论文的发表时间）

页数：共27页

页码：41-67