基于分治法的神经网络修复方法

摘要：

神经网络作为一种求解复杂问题的有效方法已经广泛应用于医学影像,自动驾驶等领域.然而,神经网络十分脆弱,对一个样本添加一点肉眼难以察觉的微小扰动就可能导致神经网络做出错误的判断.当神经网络出现了错误的行为,常用的修复方法是对神经网络进行重训练或者微调,然而这些方式需要较高的代价而且无法保证完全修复错误行为.在本文中,我们关注神经网络的完备修复问题,给定一个待修复的神经网络和一个目标样本集合,该问题要求修复后的神经网络在目标样本集合上表现出100%的正确率.在本文中,我们基于分治法的思想提出了一种神经网络修复方法.在该方法中,我们将目标样本集合不断划分为更小的集合,直到样本集合达到可接受的规模,之后对于划分得到的每一个集合逐个进行修复得到一个局部补丁,最后所有的局部补丁进行整合得到对于整个特征空间的补丁.在两个公开数据集上的实验表明我们的方法优于当前最先进的神经网络修复算法.针对对抗攻击和后门攻击生成的目标样本集合,我们的方法不仅完全修复了神经网络在目标样本集合上的行为,而且将网络在相同攻击方式生成的测试集上的准确率分别提高了 55.79%和 60.59%.同时,我们的方法可以避免修复后网络在标准测试集上的准确率大幅度降低.

关键词：错误修复、神经网络、分治法、约束求解

所属期刊栏目：8

分类号：TP183(自动化基础理论)

资助基金：国家自然科学基金;中国科学院前沿科学重点研究计划项目

在线出版日期：2023-07-19（万方平台首次上网日期，不代表论文的发表时间）

页数：共11页

页码：27-37