唇语识别的视觉特征提取方法综述

摘要：

现有唇语识别研究多专注于提高识别精度、研究多模态输入特征等方面,对提高唇部视觉特征的有效性关注不多.而唇部的视觉信息在视觉语音识别和唇语识别中起着关键作用,尤其在音频被破坏或无音频信息时,唇部视觉信息尤为重要.如何获取准确有效的唇部视觉特征是当前唇语识别的难点工作之一.从唇语数据集、传统视觉特征提取方法、视觉特征提取的深度学习方法三方面综述了唇语识别方向近年来的最新研究工作:首先,总结了唇语识别数据集,将唇语数据集分为正视图和多视图两种类型,并总结整理两类数据集的特点、局限性和下载地址;其次,从像素点、形状和混合特征的角度介绍了唇部视觉特征提取的传统方法,重点介绍各方法的基本思想、网络结构和特点;然后,介绍了唇部视觉特征提取的深度学习方法,重点介绍2D CNN、3D CNN、2D CNN与3D CNN相结合、其他神经网络四种深度学习方法的网络结构和优缺点,并比较了这些方法在公开数据集上的性能表现;最后,对唇部视觉特征提取方法所面临的挑战和未来研究趋势进行了展望.

关键词：唇语识别;视觉特征;深度学习

所属期刊栏目：15

分类号：TP391(计算技术、计算机技术)

资助基金：北方民族大学中央高校基本科研业务费专项;宁夏自然科学基金;北方民族大学"计算机视觉与虚拟现实"创新团队项目;国家自然科学基金;北方民族大学研究生创新项目

在线出版日期：2021-12-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共20页

页码：2256-2275