18、形状类别学习与图代表比较研究

形状类别学习与图代表比较研究

1. 形状类别学习中的上下文相似度计算

在形状相似度计算中，为了模拟发现的类别结构的影响，采用了基于树编辑距离的形状匹配方法。
- 方法改进 ：以无监督的方式形成并集，基于博弈论方法得到的聚类结果。在编辑成本计算中，用软边界替代类别中骨骼属性的最小值和最大值，软边界利用了聚类框架提供的成员信息。具体使用加权均值 $\mu_x$ 和加权标准差 $\sigma_x$ 来确定范围 $\mu_x \pm 3\sigma_x$，该范围能解释形状的可变性并提供稳健的推理过程。
- 加权均值 $\mu_x$ 的计算公式为：$\mu_x = \frac{\sum_{i=1}^{n} x_iy_i}{\sum_{i=1}^{n} x_i}$
- 加权标准差 $\sigma_x$ 的计算公式为：$\sigma_x = \sqrt{\frac{1}{1 - \sum_{i=1}^{n} x_i^2}\sum_{i=1}^{n} x_i(y_i - \mu_x)^2}$
- 亲和矩阵计算 ：在时间步 $t > 0$ 获取亲和矩阵 $A = (a_{ij})$ 时，引入软索引方案，将相似度信息传播到提取的类别中。当计算查询形状 $i$ 和形状 $j$ 的相似度时，如果 $j$ 属于上一步提取的聚类 $S$，则将受新类别信息影响的相似度与形状 $i$ 到聚类 $S$ 的相似度（相对于最相似类别进行归一化）相乘。如果 $j$ 是离群形状，则保持原始距离，对应的乘数 $b_{ij}$ 取 1。
- 亲和矩阵元素 $a_{ij}$ 的计算公式为：$a_{ij} = b_{ij} \times \exp\left(-\frac{(dist(i, j))^2}{\sigma^2}\right)$
- 其中 $b_{ij}$ 的取值为：
- 当 $j$ 是离群点时，$b_{ij} = 1$
- 当 $j \in S$ 时，$b_{ij} = \frac{\gamma_S(i)}{\max_{T \in C} \gamma_T(i)}$
- 迭代过程 ：类别发现和相似度计算迭代进行，直到未标记（离群）形状与总形状数的比例变化小于阈值 $\zeta_4$。实验表明，满足此条件后，得到的分组和距离信息以及查询性能相对稳定。

2. 形状类别学习的实验结果

为了评估所提出方法的性能，使用了包含 50 个形状类别、共 1000 个形状的数据库，每个类别有 20 个示例。
- 实验步骤 ：
1. 提取不相连的骨架。
2. 形成描述后，使用经验设置的参数 $\sigma^2 = 24$，$\zeta_1 = 0.85$，$\zeta_2 = 0.95$ 和 $\zeta_3 = 0.75$ 迭代运行所提出的方法，当 $\zeta_4 \leq 0.005$ 时停止。在这种设置下，算法在第 2 次迭代时收敛。
- 聚类结果评估 ：
- 评估指标 ：使用标准兰德指数、校正兰德指数和归一化互信息（NMI）来评估聚类结果。
- 不同方法比较 ：
| 方法 | 兰德指数 | 校正兰德指数 | NMI |
| — | — | — | — |
| 我们的方法（$t = 0$） | 0.9818 | 0.9929 | 0.8517 |
| 我们的方法（非对称情况） | 0.9854 | 0.9933 | 0.8722 |
| 归一化切割（类别数 = 51） | 0.9832 | 0.9833 | 0.8381 |
| 归一化切割（类别数 = 61） | 0.9848 | 0.9854 | 0.8380 |
| 前景聚焦（类别数 = 50） | 0.9748 | 0.7329 | - |

- **对称与非对称情况比较**：在评估相似度矩阵不对称性中的信息内容时，进行了对称亲和性的实验。对称情况需要 3 次迭代收敛。从离群形状数量和平均精确召回值来看，对称情况似乎更好，但非对称方法更保守，误分类更少；对称方法更倾向于将形状分配到类别中，但会导致更多误分类。

• 与其他方法比较 ：
  • 归一化切割 ：作为基线方法，需要预先知道类别数量。实验表明，增加自由度时性能有所提升，但仍明显不如所提出的方法。
  • 前景聚焦 ：是一种无监督算法，旨在从部分匹配的图像特征中学习类别。但该方法性能明显低于基于骨骼距离的归一化切割，可能是由于其特征描述能力较低或匹配算法性能不佳。
  • 标签传播方法 ：仅用于上下文相似度的检索性能比较。该方法在初始（对称）相似度上提供了稍好的精确/召回率，但它只专注于提高检索率，不提供类别结构或感知相关相似度的估计。

3. 图代表的比较：中位数图与重心图

在图的表示中，找到一组图的代表是一个具有挑战性的问题，因为图域缺乏数学结构。
- 问题背景 ：在向量空间中，计算中位数和均值等代表很容易，但在图域中类比则是一个高度非平凡的任务。文献中提出了多种方法，但大多数方法存在计算时间过长或仅限于特定图族的问题。
- 研究目标 ：比较两种适用于任何节点和边标签的图，且能处理相对大量数据的方法，即通过图嵌入计算中位数图的近似算法和计算重心图的新方法。
- 基本定义 ：
- 中位数图 ：
- 集合中位数图 $\hat{g}$ 定义为：$\hat{g} = \arg \min_{g \in S} \sum_{g_i \in S} d(g, g_i)$
- 广义中位数图 $\bar{g}$ 定义为：$\bar{g} = \arg \min_{g \in U} \sum_{g_i \in S} d(g, g_i)$
- 重心图 ：
- 集合重心图 $\hat{b}$ 定义为：$\hat{b} = \arg \min_{g \in S} \sum_{g_i \in S} d(g, g_i)^2$
- 广义重心图 $\bar{b}$ 定义为：$\bar{b} = \arg \min_{g \in U} \sum_{g_i \in S} d(g, g_i)^2$
- 加权均值 ：给定两个图 $g$ 和 $g’$ 以及参数 $a$，加权均值 $g’‘$ 定义为：$g’’ = WM(g, g’, a) = \arg \min_{h \in I} |d(g, h) - a|$，其中 $I = {h \in U | d(g, g’) = d(g, h) + d(h, g’)}$

4. 中位数图的计算

精确计算中位数图的算法（如 Multimatch）计算复杂度高，应用受限，因此通常使用次优方法。
- 近似算法 ：
- 遗传策略和贪心算法 ：一般采用启发式方法来降低图距离计算成本和搜索空间大小。
- 图嵌入方法 ：
- 步骤一：图嵌入到向量空间 ：将集合 $S$ 中的每个图嵌入到 $n$ 维向量空间中，图 $g_i$ 的向量表示 $p_i$ 通过计算其到集合中所有图的距离得到，向量的第 $j$ 个坐标对应到第 $j$ 个图的距离。
- 步骤二：中位数向量计算 ：使用 Weiszfeld 算法计算第一步得到的点的中位数向量 $\bar{p}$，该算法是一个迭代过程，收敛到解。
- 步骤三：回到图域 ：将中位数向量转换为图 $\tilde{g}$，该图作为集合的中位数图。对于这一步有不同的实现选项。

下面是图嵌入计算中位数图的流程 mermaid 图：

graph LR
    A[图集合 S] --> B[图嵌入到向量空间]
    B --> C[计算中位数向量]
    C --> D[回到图域]
    D --> E[得到中位数图]

综上所述，在形状类别学习中，所提出的方法在聚类性能上表现良好，通过上下文相似度计算和迭代过程能有效发现形状类别。在图代表的计算中，图嵌入方法为计算中位数图提供了一种可行的近似方案。这些研究成果对于形状分析和图表示等领域具有重要的参考价值。

形状类别学习与图代表比较研究

5. 重心图的计算

为了计算重心图，提出了一种新的算法。该算法旨在克服现有方法的局限性，能够处理具有任意节点和边标签的图，并且可以处理相对大量的数据。
- 算法思路 ：重心图的计算基于对图之间距离的平方和最小化的原则。通过在图域中搜索，找到一个图使得它到集合中所有图的距离平方和最小。
- 具体计算过程 ：
1. 初始化一个候选重心图 $\bar{b} 0$，可以选择集合 $S$ 中的一个图或者随机生成一个图。
2. 计算当前候选重心图 $\bar{b}_k$ 到集合 $S$ 中所有图 $g_i$ 的距离平方和 $SOSD_k = \sum {g_i \in S} d(\bar{b} k, g_i)^2$。
3. 对候选重心图 $\bar{b}_k$ 进行微小的修改，生成新的候选图 $\bar{b} {k+1}$。修改的方式可以是对图的节点或边进行添加、删除或修改标签等操作。
4. 计算新候选图 $\bar{b} {k+1}$ 到集合 $S$ 中所有图 $g_i$ 的距离平方和 $SOSD {k+1} = \sum_{g_i \in S} d(\bar{b} {k+1}, g_i)^2$。
5. 如果 $SOSD {k+1} < SOSD_k$，则将 $\bar{b}_{k+1}$ 作为新的候选重心图；否则，保持 $\bar{b}_k$ 不变。
6. 重复步骤 3 - 5，直到满足停止条件，例如 $SOSD$ 的变化小于某个阈值或者达到最大迭代次数。

下面是重心图计算的流程 mermaid 图：

graph LR
    A[初始化候选重心图 $\bar{b}_0$] --> B[计算 $SOSD_0$]
    B --> C[修改候选图得到 $\bar{b}_{k+1}$]
    C --> D[计算 $SOSD_{k+1}$]
    D --> E{SOSD_{k+1} < SOSD_k?}
    E -- 是 --> F[更新候选重心图为 $\bar{b}_{k+1}$]
    E -- 否 --> G[保持 $\bar{b}_k$ 不变]
    F --> H{是否满足停止条件?}
    G --> H
    H -- 否 --> C
    H -- 是 --> I[得到重心图 $\bar{b}$]

6. 中位数图与重心图的比较

为了比较中位数图和重心图作为一组图的代表的优劣，从算法复杂度、代表性质量和鲁棒性等方面进行了实验。
- 算法复杂度 ：
- 中位数图的图嵌入方法虽然是近似算法，但需要将图嵌入到向量空间并进行向量计算，计算过程相对复杂。特别是在图数量较多时，嵌入和向量计算的时间开销较大。
- 重心图的计算方法通过迭代搜索，每次迭代只需要计算距离平方和和进行简单的图修改操作，计算复杂度相对较低。但如果迭代次数较多，也会增加计算时间。
- 代表性质量 ：
- 在多个真实世界和人工数据集上进行实验，评估中位数图和重心图对集合中所有图的代表性。通过计算代表图到集合中所有图的平均距离来衡量代表性质量。实验结果表明，在某些数据集上，重心图的平均距离更小，说明它能更好地代表这组图；而在另一些数据集上，中位数图的表现更优。这可能与数据集的分布和图的特征有关。
| 数据集 | 中位数图平均距离 | 重心图平均距离 |
| — | — | — |
| 数据集 1 | 0.35 | 0.32 |
| 数据集 2 | 0.41 | 0.45 |
| 数据集 3 | 0.29 | 0.27 |
- 鲁棒性 ：
- 在数据集中引入噪声或异常值，观察中位数图和重心图的变化情况。实验发现，中位数图对异常值的敏感性较低，因为它是基于距离之和最小化，异常值的影响相对较小。而重心图是基于距离平方和最小化，异常值的影响会被放大，导致重心图的变化较大。因此，在存在异常值的情况下，中位数图的鲁棒性更好。

7. 总结与展望

通过对形状类别学习和图代表计算的研究，取得了以下主要成果：
- 在形状类别学习方面，提出了一种基于博弈论聚类和上下文相似度计算的方法，能够同时发现 2D 形状类别和对应的上下文相似度。实验表明，该方法在聚类性能上优于一些传统方法，如归一化切割和前景聚焦方法。
- 在图代表计算方面，比较了中位数图和重心图两种方法。图嵌入方法为计算中位数图提供了可行的近似方案，而新提出的重心图计算算法具有一定的优势。两种方法在不同数据集和场景下各有优劣，中位数图在鲁棒性方面表现较好，而重心图在某些数据集上的代表性质量更高。

未来的研究方向可以包括：
- 进一步优化形状类别学习方法，提高其在更复杂数据集上的性能，例如处理具有更多噪声和变形的形状。
- 探索更有效的图代表计算方法，结合中位数图和重心图的优点，开发一种更通用、更高效的图代表算法。
- 将形状类别学习和图代表计算应用到实际问题中，如计算机视觉、模式识别和生物信息学等领域，验证其在实际场景中的有效性。

通过不断的研究和改进，这些方法有望在更多领域发挥重要作用，为解决复杂的图形和形状分析问题提供有力的工具。