33、神经网络序列判别训练与端到端语音识别架构研究

神经网络序列判别训练与端到端语音识别架构研究

在语音识别领域，模型的训练和架构设计对于提高识别性能至关重要。本文将介绍神经网络序列判别训练的评估情况以及端到端语音识别架构的相关内容。

神经网络序列判别训练评估

在评估不同模型的性能时，采用了词错误率（WER）作为衡量指标，实验在完整的评估集上进行，包括包含重叠语音段的话语。
- 实用策略 ：对使用 sMBR 准则训练的 DNN 声学模型，评估了不同策略。从表 1 可以看出，在 sMBR 训练目标中添加 F - 平滑，相对 WER 额外降低了 3.9%；在生成分母格时，从一元语言模型切换到二元语言模型，WER 又降低了 2%。而“重新对齐”和“重新生成”策略在降低 WER 方面仅有微小改进。

系统	WER
DNN CE	55.9
DNN + sMBR + 一元 LM	54.4
DNN + sMBR + 一元 LM + F - 平滑	52.4
DNN + sMBR + 二元 LM + F - 平滑	51.3
DNN + sMBR + 二元 LM + F - 平滑 + 重新对齐 </