75、用于手写识别的双向语言模型

用于手写识别的双向语言模型

1. 引言

手写文本识别是模式识别研究中非常活跃的领域。目前，一些有前景的手写识别方法包括无分割和基于学习的方法，例如隐马尔可夫模型（HMM）、神经网络（NN）或它们的组合。然而，无约束文本的识别仍未得到完全解决，主要原因是不同手写风格的高度可变性。

通常，自动识别系统会通过估计单词概率（如n - 元语法）来模拟上下文理解。虽然n - 元语法方法简单且无法捕捉单词之间的长期关系，但它们的表现仍然出色，是当前的先进技术。

现有的手写识别系统通常将文本行表示为序列，并按照书写方向（如罗马文字从左到右）进行识别，这样可以直接将n - 元语法语言模型信息纳入解码过程。但这种语言概率估计形式只使用了单词一侧的有限上下文来估计其出现概率，导致识别器面临错误传播的问题，可能会丢弃在更大上下文中需要的正确单词，从而干扰后续单词的识别。

因此，单向解码可能是不必要的限制，尤其是对于离线文本图像。通过考虑单词左右两侧的n - 元语法，可以更稳健地估计单词的概率，减少识别错误的传播。本文提出使用双向n - 元语法来提高无约束手写文本的识别性能。

2. 双向语言模型

不同手写文本的歧义性和不同书写风格的巨大差异，要求在自动转录中整合上下文信息。标准方法是在解码过程中整合统计语言模型，但使用二元语法的语言建模不能充分捕捉语言信息。一种解决方案是使用更高阶的n - 元语法来增加语言模型的复杂性，但不同n - 元语法的数量会随着n呈指数级增长，即使在大型训练语料库中，许多单词组合也可能根本不出现，或者出现频率不足以进行稳健的出现概率估计。

手写识别的另一个挑战是误识别单词的错误传播。由于常见的识别方