用于大词汇量语音识别的门控残差DFSMN声波模型
霍伟明
徐浩
广东美的制冷设备有限公司 广东佛山 528311
摘要：深度前馈序列记忆网络(DFSMN,Deep Feedforward Sequential Memory Network)是一种识别精度较高的声学模型,其在相邻的记忆块间引入跳跃链接来缓解梯度消失问题.而训练一个深层堆叠的DFSMN仍是十分具有挑战性的任务,且简单的网络层堆叠并不能使网络模型的性能得到提升.在构造非常深的神经网络结构时,残差学习是一种有效的方法,可以帮助神经网络更容易、更快地收敛.提出一种名为门控残差DFSMN(Gated Residual DFSMN,GR-DFSMN)的新型网络结构.该模型从低层DFSMN块引入了额外的门控捷径用于有效地训练深层DFSMN结构的网络.实验结果表明,当训练非常深的模型时,GR-DFSMN相比于普通的DFSMN具有较好的性能.在1000小时的大规模英语语料库Librispeech中,当层数达到40时,与DFSMN相比,GR-DFSMN在四个测试集上评估所得的平均字错误率降低了0.7％.
关键词：语音识别DFSMN门控残差CTC
分类号：TN912.34(通信)
论文发表日期：2022-10-28
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：4( 22-25 )
英文信息