基于权值筛选策略的增量学习方法

摘要：

为提高现有增量学习模型在容量固定环境下学习的持久性,提出一种基于权值选择策略的增量学习方法.根据贝叶斯神经网络携带的不确定性动态地调整权值的学习率,以此优化一个能同时记忆新旧知识的模型;为使模型的学习与记忆更有弹性,在此基础上提出一种权值选择策略,该策略可以令模型主动选择性地释放部分网络资源,在不严重损害旧任务性能的前提下促进后续任务的学习.实验结果表明,在模型容量固定的环境下,权值选择策略的引入可以更有效地发掘模型的持续学习能力.

关键词：灾难性遗忘、贝叶斯增量学习、不确定性、学习率、权值选择策略

所属期刊栏目：43

分类号：TP391.4(计算技术、计算机技术)

资助基金：国家自然科学基金;国家自然科学基金;国家自然科学基金;国家自然科学基金;广西科技基地和人才专项基金项目;广西自然科学基金项目;广西无线宽带通信与信号处理重点实验室基金项目;教育部重点实验室基金;桂林电子科技大学研究生创新基金项目

在线出版日期：2022-08-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：2221-2227