类别增量学习研究进展和性能评价

摘要：

机器学习技术成功地应用于计算机视觉、自然语言处理和语音识别等众多领域.然而,现有的大多数机器学习模型在部署后类别和参数是固定的,只能泛化到训练集中出现的类别,无法增量式地学习新类别.在实际应用中,新的类别或任务会源源不断地出现,这要求模型能够像人类一样在较好地保持已有类别知识的基础上持续地学习新类别知识.近年来新兴的类别增量学习研究方向,旨在使得模型能够在开放、动态的环境中持续学习新类别的同时保持对旧类别的判别能力(防止"灾难性遗忘").本文对类别增量学习(Class-incremental learning,CIL)方法进行了详细综述.根据克服遗忘的技术思路,将现有方法分为基于参数正则化、基于知识蒸馏、基于数据回放、基于特征回放和基于网络结构的五类方法,对每类方法的优缺点进行了总结.此外,本文在常用数据集上对代表性方法进行了实验评估,并通过实验结果对现有算法的性能进行了比较分析.最后,对类别增量学习的研究趋势进行展望.

关键词：增量学习、持续学习、灾难性遗忘、机器学习、深度学习

所属期刊栏目：49

分类号：TP391;U416.217;TN912.34

资助基金：创新新一代人工智能重大项目;国家自然科学基金;国家自然科学基金;国家自然科学基金;国家自然科学基金;中国科学院前沿科学重点研究计划项目;中国科学院青年创新促进会项目

在线出版日期：2023-04-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共26页

页码：635-660