面向网络空间防御的对抗机器学习研究综述

摘要：

机器学习以强大的自适应性和自学习能力成为网络空间防御的研究热点和重要方向.然而机器学习模型在网络空间环境下存在受到对抗攻击的潜在风险,可能成为防御体系中最为薄弱的环节,从而危害整个系统的安全.为此科学分析安全问题场景,从运行机理上探索算法可行性和安全性,对运用机器学习模型构建网络空间防御系统大有裨益.全面综述对抗机器学习这一跨学科研究领域在网络空间防御中取得的成果及以后的发展方向.首先,介绍了网络空间防御和对抗机器学习等背景知识;其次,针对机器学习在网络空间防御中可能遭受的攻击,引入机器学习敌手模型概念,目的是科学评估其在特定威胁场景下的安全属性;然后,针对网络空间防御的机器学习算法,分别论述了在测试阶段发动规避攻击、在训练阶段发动投毒攻击、在机器学习全阶段发动隐私窃取的方法,进而研究如何在网络空间对抗环境下,强化机器学习模型的防御方法;最后,展望了网络空间防御中对抗机器学习研究的未来方向和有关挑战.

关键词：网络空间防御、对抗机器学习、投毒攻击、规避攻击、对抗样本

所属期刊栏目：48

分类号：TP391.41;G64;R743.3

资助基金：国家自然科学基金;国家自然科学基金;湖湘青年英才支持项目;长沙市杰出创新青年培养计划

在线出版日期：2022-07-29（万方平台首次上网日期，不代表论文的发表时间）

页数：共25页

页码：1625-1649