基于相异性的多实例学习与形状类别学习的博弈论方法
在机器学习和计算机视觉领域,多实例学习(MIL)以及形状类别的无监督学习是重要的研究方向。本文将介绍基于相异性的多实例学习方法,以及一种通过博弈论方法来进行形状类别无监督学习的方案。
基于相异性的多实例学习
在图像检索数据集的实验中,使用线性核的支持向量机(SVM)以及Fisher方法,在三个数据集中的两个数据集上表现优于专门为MIL问题调整的SVM。这表明在这类问题中考虑实例之间的关系是有益的。
线性分类器基于所提出的相异性表示,在某些情况下比MIL文献中的最佳结果表现更好,在其余情况下接近已发表的最佳结果。需要注意的是,这些分类器是“现成”应用的,例如SVM中的权衡参数C没有通过交叉验证进行调整,而是固定为1。并且,分类器在维度等于训练样本数量的相异性空间中进行训练和测试。对于SVM来说这不是问题,对于Fisher方法则使用了伪逆。通过适当的正则化或降低相异性空间的维度,例如通过原型选择,可能会获得比表中报告的更好的结果。
SVM在某些图像检索数据集上的表现比随机表现还差,特别是在狐狸数据集上基于Hausdorff距离 $d_H$ 获得的相异性表示构建时。这可能是由于相异性空间中存在强烈的类别重叠。1NN和Fisher在这种表示上的表现也比其他表示差,这也证明了这一点。
最小点集距离 $d_{min}$ 作为包相异性度量效果很好。这有点令人惊讶,因为在MIL中由于正包也包含负实例,类别预计会重叠。原因是在使用的数据集中,正实例的分布比负实例更密集,因此包含至少一个正实例的包更有可能接近另一个包含至少一个正实例的包,而不是只包含负实例的包。
总的来说,相异性表示方法可以用于解决MIL问题。在包相异性空间中构建的通用监督线性分类器形式的全局决策规则,在公开可用的MIL数据集上实现了出色的分类准确率。该方法具有通用性,与流行的基于核的方法相比,它为解决MIL问题提供了更广泛的包之间接近度度量选择。此外,有迹象表明,考虑实例之间的关系可以提高某些MIL问题(如图像检索问题)的性能。
形状类别无监督学习的博弈论方法
形状类别无监督学习是计算机视觉中的核心问题,具有重要的理论和实际影响。该问题有两个相互关联的方面:一是发现存在的形状类别,可有效作为形状聚类问题来解决;二是类属性的泛化,即能够将每个新遇到的形状分配到提取的类别之一,或者将其识别为异常值。而确定两个形状之间的真实相似性是这两个任务的基础。
以往的方法存在一个问题,即它们都假设形状之间存在单一的通用相似性度量,通常还要求具有度量属性。然而,心理实验表明,人类对相似性的感知不仅是非度量的,而且强烈依赖于周围的上下文。特别是,形状类内的观察变异对于确定属于该类的形状的相似性感知至关重要。
为了解决这个问题,提出了一种博弈论方法来无监督地计算形状类别。这里存在一个“鸡和蛋”的问题:确定感知到的相似性需要类别知识,而提取类别知识又需要相似性。通过一种类似EM的方法来解决这个问题,迭代地估计类别成员关系并最大化类别表示的参数。
断开骨架与类别影响匹配
骨架是通用形状识别中最常见的表示方案之一,因为它们能够捕捉部分结构,并且对关节和遮挡不敏感。然而,在实践中,两个视觉上非常相似的形状可能具有结构上不同的骨架,因此需要在提取骨架或匹配过程中解决这种不稳定性问题。
断开骨架提供了一种替代解决方案,它旨在从头开始获得一种粗略但非常稳定的骨架表示。断开骨架是根据特殊的距离表面(Aslan表面)定义的,其等高线是初始形状边界的越来越平滑的版本,并且有一个单一的极值点,捕捉形状的类似斑点表示的中心。从该表面提取的每个分支被分类为正或负,分别表示它是从正曲率最大值(凸起)还是负曲率最小值(凹陷)产生的。
在相关研究中,断开骨架被表示为有根属性深度为1的树,并使用树编辑距离来匹配这些结构。此外,使用要匹配的形状之一的类别来确定编辑成本。成本函数是根据存储在辅助树联合结构中的骨架属性的类别特定统计信息计算的。
分组博弈
分组博弈框架源于对组成员假设之间竞争的博弈论形式化。基本思想是让每个元素属于一个组的假设相互竞争,每个假设从兼容元素获得支持,并受到所有其他元素的竞争压力。竞争将减少那些没有从其他元素获得强烈支持的假设的数量,而让那些获得强烈支持的假设的数量增加。最终,所有不一致的假设将被淘汰,所有幸存的假设将达到平衡,所有元素获得相同的平均支持。
具体来说,设 $O = {1, \cdots, n}$ 是可用元素的集合,对于每对策略 $i, j \in O$,$a_{ij}$ 表示一个玩家采用策略 $i$ 对抗采用策略 $j$ 的对手时的收益。混合策略是在可用策略 $O$ 上的概率分布 $x = (x_1, \cdots, x_n)^T$。
定义 $\Delta = {x \in \mathbb{R}^n : x_i \geq 0 \text{ 对于所有 } i \in O, 1^T x = 1}$,其中 $1 = (1, \cdots, 1)^T$。混合策略 $x \in \Delta$ 的支持集 $\sigma(x)$ 定义为以非零概率选择的元素的集合:$\sigma(x) = {i \in O | x_i > 0}$。
玩家选择元素 $i$ 对抗采用混合策略 $x$ 的玩家时的期望收益是 $(Ax) i = \sum_j a {ij}x_j$,因此采用混合策略 $y$ 对抗 $x$ 的期望收益是 $y^T Ax$。
混合策略 $x$ 的最佳回复是混合策略的集合 $\beta(x) = {y \in \Delta | y^T Ax = \max_z (z^T Ax)}$。如果策略 $x$ 是对自身的最佳回复,即 $\forall y \in \Delta, x^T Ax \geq y^T Ax$,则称 $x$ 是纳什均衡。
在这种形式化中,纳什均衡抽象了一个组的主要特征:内部同质性,即组内所有元素的高相互支持;以及外部异质性,即组内元素对不属于该组的元素的低支持。通过复制动态来找到均衡,也就是组,这是一种著名的自然选择过程的形式化。
该框架的主要特点包括:具有通用性,能够处理不对称以及负亲和力;不需要先验的簇数量知识,因为它本质上是一个多图形/背景区分过程;并且能够直接提供簇的凝聚性度量(以平均收益 $x^T Ax$ 的形式)以及元素对簇的参与度度量。实际上,值 $x_i$ 可以解释为元素 $i$ 对由稳定点 $x$ 定义的簇的参与程度。
提出的方法
采用类似EM的方法来解决发现形状类别和计算相应上下文相似性的相互关联问题。迭代地估计类别成员关系并最大化类别表示的参数。类别成员关系的期望通过采用分组博弈框架获得,然后使用新估计的成本系数,将相似性计算为断开骨架表示的编辑距离。
-
发现形状类别
- 定义形状类别为一个聚类博弈,训练集中的形状竞争类别成员资格。竞争结果由收益或效用矩阵 $A = (a_{ij})$ 决定,它表示形状 $i$ 与形状 $j$ 的相似性。初始时,这些收益简单对应于给定形状集合之间的相似性,通过 $a_{ij} = \exp\left(-\frac{(dist(i,j))^2}{\sigma^2}\right)$ 获得,其中 $\sigma$ 是缩放因子,$dist(i, j)$ 是形状 $i$ 和 $j$ 的断开骨架之间的树编辑距离。
- 由于一开始没有类别信息,初始相似性是在没有任何上下文的情况下孤立计算的,因此 $A$ 是对称矩阵。但在后续迭代中,上一步发现的类别结构通过区分比较中形状的角色来影响相似性计算。此时,每行索引对应一个查询形状,每列索引是一个由上一次分组博弈分配了类别标签的形状(如果它未被发现为异常值),成本函数由第二个形状的类别上下文决定,从而得到一个不对称的相似性矩阵。
- 给定收益矩阵 $A$,通过应用剥离策略提取形状类别。首先,从考虑所有形状的分组博弈开始,通过运行复制动态提取一个簇。然后,在剩余(未标记)形状的集合上定义一个新的博弈,并重复该过程,直到提取所有组。
- 博弈论框架还提供了一种直接评估提取簇的凝聚性的方法。设 $S \in \mathcal{S}$ 是一个提取的组,$S$ 的凝聚性可以计算为其平均收益 $x_S^T Ax_S \in [0, 1]$。通过检查这些值,获得一个初始的连贯形状类别集合 $C (\subseteq \mathcal{S})$,它由 $x_S^T Ax_S > \zeta_1$ 的簇 $S \in \mathcal{S}$ 组成。这使我们能够丢弃不连贯的类别,从而增强提取过程的鲁棒性。
- 收益信息还可用于为集合 $C$ 中的簇分配额外成员。为了计算形状 $i$ 与簇 $S$ 之间的相似性,使用加权相似性函数 $\gamma_S(i) = \frac{(Ax_S)_i}{x_S^T Ax_S}$。对每个未标记的形状 $i$ 评估此相似性度量,如果 $\gamma_S(i) \geq \zeta_2$,则将其分配给最相似的簇;否则,将其视为不属于任何提取类别的异常值形状。将未聚类对象分配到类别或异常值类的能力对泛化能力至关重要。需要注意的是,异常值类应解释为“不知道”标签,即该方法对该形状无法做出判断,而不是将其识别为在其他示例中未见过的新类别。
- 在重新分配剩余元素后,重新检查在第一步阈值处理中被拒绝的组,检查它们在移除重新分配的元素后是否变得更连贯。使用滞后策略评估它们的凝聚性:接受 $|S| > 3$ 且平均收益 $x_S^T Ax_S > \zeta_3$($\zeta_3 < \zeta_1$)的组。这种滞后的目的是减少剥离策略引起的隐含尺度变化的影响,并提高对缩放因子 $\sigma$ 的鲁棒性。
以下是形状类别发现的流程:
graph TD
A[初始化收益矩阵A] --> B[运行分组博弈提取第一个簇]
B --> C{是否还有未标记形状}
C -- 是 --> D[在剩余形状上定义新博弈]
D --> B
C -- 否 --> E[评估簇的凝聚性]
E --> F[筛选出连贯的簇C]
F --> G[为未标记形状计算与簇的相似性]
G --> H{相似性是否大于阈值ζ2}
H -- 是 --> I[分配到最相似的簇]
H -- 否 --> J[标记为异常值]
I --> K[重新检查被拒绝的组]
J --> K
K --> L[使用滞后策略确定最终类别]
综上所述,基于相异性的多实例学习方法为解决MIL问题提供了新的思路,而博弈论方法在形状类别无监督学习中展现出了良好的性能和潜力,能够有效处理形状相似性受上下文影响的问题,为相关领域的研究和应用提供了有价值的参考。
基于相异性的多实例学习与形状类别学习的博弈论方法
方法对比与性能分析
为了更直观地了解基于相异性的多实例学习方法以及博弈论方法在形状类别学习中的表现,我们将其与其他相关方法进行对比分析。
多实例学习方法对比
在多实例学习中,不同方法在图像检索数据集上的表现存在差异。以下是几种方法在部分数据集上的性能对比:
| 方法 | 数据集表现 |
| — | — |
| 线性核SVM及Fisher方法 | 在三个数据集中的两个表现优于专为MIL问题调整的SVM,表明考虑实例关系有益 |
| 专为MIL问题调整的SVM | 在某些数据集上表现不如线性核SVM及Fisher方法 |
线性分类器基于相异性表示在一些情况下优于MIL文献中的最佳结果,部分原因在于它“现成”应用,未对参数进行精细调整,如SVM的权衡参数C固定为1。若进行适当的正则化或降低相异性空间的维度,可能会取得更好的结果。
形状类别学习方法对比
传统的形状类别学习方法假设形状之间存在单一的通用相似性度量,而博弈论方法考虑了上下文信息,表现出更好的性能。
| 方法 | 特点 | 性能 |
| — | — | — |
| 传统方法 | 假设单一通用相似性度量,依赖度量属性 | 未充分考虑上下文,性能受限 |
| 博弈论方法 | 考虑上下文信息,解决“鸡和蛋”问题 | 在实验中优于不使用上下文信息的聚类方法,能提供与最先进的标签传播方法相当的相似性,且能提取类别 |
实验验证与结果
在实际应用中,对提出的方法进行了实验验证。
多实例学习实验
在公开可用的MIL数据集上,基于相异性表示的线性分类器实现了出色的分类准确率。实验表明,最小点集距离 $d_{min}$ 作为包相异性度量效果良好,原因是正实例分布比负实例更密集,使得包含正实例的包更易接近其他包含正实例的包。
形状类别学习实验
在包含1000个形状的数据库上进行实验,博弈论方法的表现如下:
-
聚类效果
:优于不使用上下文信息的聚类方法,能够提取出更连贯的形状类别。通过分组博弈和剥离策略,有效筛选出不连贯的类别,增强了提取过程的鲁棒性。
-
相似性计算
:提供的相似性与最先进的标签传播方法相当,但博弈论方法还能提取类别,而标签传播方法无法做到这一点。
以下是形状类别学习实验的流程:
graph TD
A[准备1000个形状的数据库] --> B[初始化收益矩阵A]
B --> C[运行分组博弈提取形状类别]
C --> D[评估簇的凝聚性]
D --> E[筛选连贯的类别]
E --> F[计算形状与簇的相似性]
F --> G{相似性是否达标}
G -- 是 --> H[分配到相应类别]
G -- 否 --> I[标记为异常值]
H --> J[重新检查被拒绝的组]
I --> J
J --> K[确定最终形状类别]
K --> L[与其他方法对比性能]
应用前景与挑战
这两种方法在各自领域都具有广阔的应用前景,但也面临一些挑战。
多实例学习方法
- 应用前景 :可应用于图像检索、药物活性预测等领域,通过考虑实例关系提高分类准确率,为解决多实例问题提供新途径。
- 挑战 :需要进一步研究如何进行更有效的正则化和维度降低,以提高方法性能。同时,对于不同类型的数据集,需要探索更合适的相异性度量。
形状类别学习方法
- 应用前景 :在计算机视觉领域,可用于物体识别、图像分类等任务,能够更好地处理形状相似性受上下文影响的问题,提高识别和分类的准确性。
- 挑战 :博弈论方法的计算复杂度相对较高,需要优化算法以提高效率。此外,对于大规模数据集,如何更有效地提取类别和计算相似性也是需要解决的问题。
总结
基于相异性的多实例学习方法和博弈论方法在形状类别学习中都具有重要意义。多实例学习方法通过考虑实例关系,利用相异性表示和线性分类器,在MIL问题上取得了良好的效果。博弈论方法则通过解决形状类别学习中的“鸡和蛋”问题,考虑上下文信息,在形状聚类和相似性计算方面表现出色。
未来的研究可以针对这两种方法的挑战进行深入探索,进一步优化算法,提高性能,使其在更多领域得到广泛应用。同时,可以结合其他技术,如深度学习,探索更强大的解决方案,推动机器学习和计算机视觉领域的发展。
49



被折叠的 条评论
为什么被折叠?



