27、基于增量 EM 算法的视觉感知图像分割技术解析

基于增量 EM 算法的视觉感知图像分割技术解析

1. 背景知识

在监督学习中，当特征向量被标记后，下一步就是对新的观测进行分类。实例学习是一类监督学习算法，它将新的问题实例与训练中见过的实例进行比较。具体来说，在根据存储的训练集预测新实例的类别标签时，算法会计算该实例与训练实例之间的距离或相似度来做出决策。

实例学习的优点是能够适应以前未见过的数据，但缺点是其时间复杂度会随数据量增长。为解决存储所有训练实例的内存复杂性问题，人们提出了实例约简算法。常见的实例学习算法包括 k - 最近邻算法、核机器和径向基函数（RBF）网络。

对于视频信息的实时处理，需要高效的搜索结构和算法。树结构是对局部图像区域进行索引的有效方式，通过剪枝可以使最近邻搜索更高效。因此，在当前研究中，我们特别关注基于树的近似最近邻搜索算法。

对于由高维、高度稀疏特征向量组成的大型数据库，我们采用了一种基于词汇树的方法，但有重要改进，以生成 k 路近似最近邻搜索树。构建过程如下：
- 第一层：树只有一个节点，即树根。
- 第二层：从整个数据库中随机选择一组 k 个代表性模式作为聚类中心，然后根据所选的相似度度量，将每个特征向量分配给其最近的中心，从而将整个数据库聚类为 k 个子集。
- 第三层：对于第二层得到的 k 个聚类，从每个聚类的特征向量池中随机选择 k 个特征向量作为下一级聚类中心，这一层会产生 (k^2) 个聚类树节点。
- 重复上述过程，直到叶节点（没有子节点的树节点）中的所有特征向量都属于同一对象类（纯节点），或者叶节点中的特征向量数量低于某个限制。

搜索时，对于新的特征向量，计算它与某一分支上每一层的 k 个聚类中心的距