3、多标签分类的同时非线性标签 - 实例嵌入方法

多标签分类的同时非线性标签 - 实例嵌入方法

1. 引言

多标签分类（MLC）允许一个实例同时拥有多个标签，近年来在各个领域和应用中受到了广泛关注。MLC 的主要任务是从 N 个训练实例中学习 F 维特征向量 x 和 L 维二进制向量 y 之间的关系，并为测试实例 x 预测一个二进制向量 ˆy。学习 MLC 的关键在于如何有效利用标签之间的依赖关系，但过度处理标签依赖可能导致过学习和更高的复杂度。

嵌入方法是解决 MLC 问题的一种有效途径，它通过降维来利用标签依赖，将标签空间的维度从 L 降低到 K（K ≪ L）。通常的嵌入方法只对标签集或实例集进行嵌入，而本文提出了一种新颖的非线性嵌入方法，同时对标签和实例进行嵌入，尽可能忠实地保留实例 - 实例、标签 - 标签和标签 - 实例之间的三种关系。此外，还提出了用于分类的线性和非线性映射方法。

2. 提出的嵌入方法

2.1 目标函数

与传统的嵌入方法不同，该方法将标签和实例明确地嵌入到相同的 K 维空间（K < F）中，同时保留标签和实例之间的关系。为了保留这些关系，使用了一种称为拉普拉斯特征映射的流形学习方法，它可以在低维空间中保持任意两点或对象之间的距离或相似度。

考虑同时嵌入标签和实例，设 g(i) 是第 i 个实例 x(i) 在嵌入空间中的低维表示，h(l) 是第 l 个标签在同一空间中的表示。在这个嵌入过程中，考虑三种类型的关系：
1. 实例 - 标签（IL）关系 ：由 (x(i), y(i)) 给出的明确关系应在嵌入中体现为 g(i) 和 h(li) 之间的接近程度，其中 li 是 y(i) 中值为