6、多视图监督学习方法解析

多视图监督学习方法解析

1. 多内核学习

1.1 内核组合

内核技巧是将数据特征通过特征函数映射到特征空间并进行操作。选择合适的内核函数及其参数是个难题，通常使用效率较低的交叉验证方法。多内核学习（MKL）提出使用多个内核的组合来替代单个内核，公式如下：
[k_{\eta}(x_i, x_j) = f_{\eta} \left[ k_v((x_v^i, x_v^j)) {v\in[V]} \right]]
其中，(f {\eta}) 是由 (\eta) 参数化的组合函数，(k_v) 是 (V) 个不同的内核。处理多视图数据时，(x_v^i) 对应第 (i) 个样本的第 (v) 个视图；处理单视图数据时，可以对同一样本应用不同的特征提取器并将输出输入到不同内核，或者直接将相同特征输入这些内核。

以下是一些内核组合规则：
- 对于内核 (k_1) 和 (k_2)，实数 (\lambda \in [0, 1]) 和 (a > 0)，以下函数是内核：
- (k(x_i, x_j) = \lambda k_1(x_i, x_j) + (1 - \lambda) k_2(x_i, x_j))
- (k(x_i, x_j) = a k_1(x_i, x_j))
- (k(x_i, x_j) = k_1(x_i, x_j) k_2(x_i, x_j))
- 对于函数 (f: \mathbb{R} \to \mathbb{R}) 和 (\varphi: \mathbb{R} \to \mathbb{R}^m) 以及 (\mathbb{R}^m \times \mathbb{R}^m) 上的内核 (