3、多标签分类的同时非线性标签 - 实例嵌入方法

多标签分类的同时非线性标签 - 实例嵌入方法

1. 引言

多标签分类（MLC）允许一个实例同时拥有多个标签，近年来在各个领域和应用中受到了广泛关注。MLC 的主要任务是从 N 个训练实例中学习 F 维特征向量 x 和 L 维二进制向量 y 之间的关系，并为测试实例 x 预测一个二进制向量 $\hat{y}$。学习 MLC 的关键在于如何有效利用标签之间的依赖关系，但过度处理标签依赖可能导致过学习和高复杂度。

嵌入是一种用于 MLC 的方法，它通过降维来利用标签依赖，将标签空间的维度从 L 降低到 K（K << L）。通常的嵌入方法要么嵌入标签集，要么嵌入实例集，而我们提出了一种新颖的非线性嵌入方法，同时嵌入标签和实例，将它们映射到低维欧几里得空间，尽可能忠实地保留实例 - 实例、标签 - 标签和标签 - 实例之间的三种关系。此外，还实现了测试实例的线性和非线性映射进行分类。

2. 提出的嵌入方法

2.1 目标函数

与传统嵌入方法不同，我们将标签和实例明确嵌入到同一个 K 维空间（K < F），同时保留标签和实例之间的关系。为了保留这些关系，我们使用了一种名为拉普拉斯特征映射的流形学习方法，它能在低维空间中保持任意两点或对象之间的距离或相似度。

我们考虑同时嵌入实例和标签，设 $g(i) \in R^K$ 是第 i 个实例 $x(i)$ 在嵌入空间的低维表示，$h(l) \in R^K$ 是第 l 个标签在同一空间的表示。在这个嵌入过程中，我们考虑三种类型的关系：
1. 实例 - 标签（IL）关系 ：由 $(x(i), y(i))$ 给出的明确关系应