语音识别模型：从统计建模到端到端架构的范式跃迁-优快云博客

语音识别技术的发展史，本质上是一部以概率统计和机器学习为核心，不断追求更优模型来逼近人类语言复杂性的历史。本文将回溯其识别模型发展历程。

早期探索与奠基

初期的语音识别系统(1950s-1980s)，如贝尔实验室的“Audrey”，依赖于基于模板匹配（Template Matching）的确定性方法。系统预存特定发音人的词汇声学模板（如频谱图），识别时通过动态时间规整（Dynamic Time Warping, DTW）算法计算输入语音与模板库的最佳匹配。此方法严重受限于“特定人（Speaker-Dependent）”、“孤立词（Isolated Word）”和“小词汇量（Small Vocabulary）”，不具备泛化能力。

https://zhaoshuaijiang.com/2014/05/20/dtw_based_speech_recognition/

《基于DTW的孤立词语音识别系统》

https://zhuanlan.zhihu.com/p/436900771

《语音合成基础(4)——动态时间规整(Dynamic Time Warping)》

统计建模的黄金时代：GMM-HMM 框架

20世纪80年代(1980s-2010s)，概率统计思想的引入带来了第一次范式革命。由“高斯混合模型（Gaussian Mixture Model, GMM）”和“隐马尔可夫模型（Hidden Markov Model, HMM）”构成的 GMM-HMM 框架，在之后近三十年间统治了语音识别领域。

隐马尔可夫模型 (HMM)：HMM被用来对语音信号的时序动态性进行建模。它将语音视为一个双重随机过程，其底层是不可观测的马尔可夫链（状态序列，通常对应音素），表层是与状态相关的可观测输出（声学特征）。HMM成功地解决了语音信号的时长不确定性问题。

高斯混合模型 (GMM)：GMM则用于对每个HMM状态的发射概率（Emission Probability）进行建模。即在给定一个音素状态的条件下，其对应的声学特征向量（如梅尔频率倒谱系数MFCCs）所服从的概率分布。GMM通过多个高斯分量的加权和，能够拟合任意复杂的特征分布。

https://blog.youkuaiyun.com/edward_zcl/article/details/126862031

《MFCC/HMM/GMM/EM/LM基本知识》

整个识别流程是一个典型的流水线（Pipeline）结构：声学特征提取 (MFCC) → 声学模型 (GMM-HMM) → 发音词典 → 语言模型 (N-gram) → 解码器 (Viterbi/Beam Search)。尽管 GMM-HMM 取得了巨大成功，但其独立性假设过强、区分性建模能力不足以及模块间割裂优化等问题，也为其后续被替代埋下了伏笔。

深度学习革命：从混合模型到端到端

深度学习的兴起(2010s-至今)彻底重塑了语音识别的技术版图。

混合模型 (DNN-HMM)：革命的开端是使用“深度神经网络 (DNN)”替代 GMM 来估计HMM状态的后验概率。DNN强大的非线性建模能力，能够学习到声学特征与音素状态间更复杂的映射关系，从而显著提升了声学模型的精度。这标志着深度学习正式进入主流ASR系统，并带来了词错误率（Word Error Rate, WER）的大幅下降。

端到端 (End-to-End, E2E) 模型：这是当前的业界主流和研究前沿。E2E模型试图将声学模型、发音词典和部分语言模型功能整合进一个单一的深度神经网络中，直接实现从声学特征序列到文本序列的映射，大大简化了传统流程。主要技术流派包括：

联结主义时序分类 (CTC)：通过动态规划算法解决了输入声学帧序列与输出文本序列间的对齐问题，直接输出字符序列而无需预先对齐，适合流式识别场景。

注意力机制编解码模型 (Attention-based Encoder-Decoder)：由编码器和解码器构成。编码器将整个输入语音序列编码为高级特征表示，解码器则通过“注意力机制”在生成文本时动态关注输入序列不同部分，在长序列依赖建模上更具优势。

RNN-Transducer (RNN-T)：结合CTC和Attention优点，处理输入音频流的同时生成输出字符，实现严格流式解码，并保持高精度。在低延迟和高精度上很出色，是工业级实时语音识别首选架构。