11、多视图学习方法：从传统到深度学习的全面解析

多视图学习方法：从传统到深度学习的全面解析

1. 多视图多任务学习算法

1.1 协同正则化多视图多任务学习算法

多视图多任务（MVMT）学习是单任务多视图学习的一般形式。协同正则化作为一种常见的多视图学习方法，可扩展到MVMT学习（regMVMT）。该方法在不同任务间利用额外的正则化函数，确保各视图学习到的函数具有相似性，从而在监督学习框架下同时考虑多视图信息并学习多个相关任务。

1.1.1 符号定义

• 共有T个任务，第t个任务有$N_t$个标记样本和$M_t$个未标记样本，且$N_t \ll M_t$。
• 每个示例有V个视图，第v个视图有$D_v$个特征。
• 第t个任务在第v个视图中，标记和未标记示例的特征矩阵分别为$X^v_t \in R^{N_t×D_v}$和$U^v_t \in R^{M_t×D_v}$，标记示例的标签向量为$y_t \in {1, -1}^{N_t×1}$。
• 拼接后的V个视图的特征矩阵为$X_t = (X^1_t, X^2_t, …, X^V_t)$和$U_t = (U^1_t, U^2_t, …, U^V_t)$。
• 引入指示矩阵$I_d \in {0, 1}^{T × V}$反映任务和视图之间的关系。

1.1.2 映射函数与目标函数

第t个任务在第v个视图中，引入映射函数$f^v_t : R^{D_v} \to {1, -1}$。单任务协同正则化的预测通过各视图预测的平均值衡量：
$f(x) = \frac{1}{V} \sum_{v=1}^{V} f^v