基于RNN-RBM语言模型的语音识别研究

摘要：

近年来深度学习兴起,其在语言模型领域有着不错的成效,如受限玻尔兹曼机(restricted Boltzmann machine,RBM)语言模型等.不同于N-gram语言模型,这些根植于神经网络的语言模型可以将词序列映射到连续空间来评估下一词出现的概率,以解决数据稀疏的问题.此外,也有学者使用递归神经网络来建构语言模型,期望由递归的方式充分利用所有上文信息来预测下一词,进而有效处理长距离语言约束.根据递归受限玻尔兹曼机神经网络(recurrent neural network-restricted Boltzmann machine,RNN-RBM)的基础来捕捉长距离信息;另外,也探讨了根据语言中语句的特性来动态地调整语言模型.实验结果显示,使用RNN-RBM语言模型对于大词汇连续语音识别的效能有相当程度的提升.

关键词：语音识别、语言模型、神经网络、递归神经网络-受限玻尔兹曼机、关联信息

所属期刊栏目：51

分类号：TP183(自动化基础理论)

在线出版日期：2014-11-05（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：1936-1944