3、估计、学习与自适应：随使用而改进的系统

估计、学习与自适应：随使用而改进的系统

1. 引言

我和皮埃尔·德维杰（Pierre Devijver）有诸多共同兴趣，如最近邻、德劳内三角剖分、聚类、连通分量、误差估计和上下文等。我涉足过计算几何、计算机辅助设计、遥感和地理信息系统等领域，但我和学生的大部分研究都集中在文档图像分析及其核心部分——字符识别上。

字符识别研究对模式识别和机器学习贡献巨大，并非仅仅因为我们渴望实现无纸办公。在统计模式识别（SPR）中，字符识别是一个研究领域广阔的方向，因为通过视觉可识别模式序列传达的信息会引发丰富的关系。这些模式由多维特征向量表征，需分类到可能具有层次结构的类别中，以实现最小误差或成本。我们可以研究和建模单个特征的统计分布、单个样本所有特征的分布，以及多个模式特征与类别变量之间的关系。这些模式可以是单个笔画、单个字母或数字、单词的一部分，甚至是整个单词、页面或文档。字符识别中使用或提出的各种模型可以用贝叶斯网络简洁地表示。

2. 皮埃尔·德维杰

皮埃尔·德维杰成就斐然，我很荣幸能在他的影响下探讨我喜爱的统计模式识别话题。我在多个会议上与他相遇，相似的技术兴趣和午餐散步的偏好促进了我们的交流。

我错过了1973年在华盛顿举行的第一届国际模式识别联合会议，当时他首次提出了贝叶斯风险与均方误差之间关系的观点。次年，他在《IEEE计算机汇刊》上发表了关于误差界的文章。后来，我在伦斯勒理工学院（RPI）教授模式识别和文档图像处理课程时，从他和约瑟夫·基特勒（Joseph Kittler）的严谨著作中受益匪浅，该书涵盖了他们关于基于k - 近邻的误差估计偏差和方差的研究成果。

2.1 连通分量

多年来，德维杰