SEMI-NONNEGATIVEMATRIX TRI-FACTORIZATION BASEDMULTI-TASKMULTI-VIEW CLUSTERING
这一文章是接着上一篇文章写的,论文还是原来那篇论文。主要解决了原来算法里的非负值限制和特征值求解的事件、时间复杂度,还是迭代优化的老套路。
不说废话,直接上干货。
首先还是对每一个任务下的每一个视角的学习,这里用到了半非负矩阵的分解。X是输入数据集(样本+特征的样子)。F代表了数据集的特征部分,G代表了样本部分,二者都有非负限制和正交限制。R是Feature和Sample之间的关系,允许元素值<0。给F,G找到最合适的值,是这一阶段的目的。
这玩意和上一篇的类似,请大家自行查看上一篇文章的这部分内容。
是经过common view v&task t对X进行筛选后的部分,
是对应于
的类似于5.1中R部分。这部分的目的是找出最合适的
,
使得目标式最小。
综合上面的三部分,构成我们的目标式,接下来才是重头戏。
计算优化
优化1
更新的方法,求导并使导数=0,求解。
优化2
同优化1,如果不满足view v是common view&task t是view v下的公共任务集,就不存在。
优化3
其中(29)左侧代表的是true gradient,具体的物理含义我也还没搞清楚。这里贴计算方法。
求出true gradient后加入KKT条件,得到(30),将=
,
带入,求解得到(31)。
优化4
证明过程同优化3。
优化5
证明同优化3.
algorithm
就是这样,multi-view multi-task learning结束。