
机器学习
学习笔记
Taylent
无
展开
-
西尔维斯特方程(Sylvester equation)一般求解方法
在求解模型中遇到 AX + XB = C 这样一个方程的求解,看到一篇论文中有优化求解方法,可惜看不懂。先把一般求解方法记录一下吧,至于有唯一解的条件、优化等内容看懂了再说吧。对于Sylvester方程:可以化为:其中:则可得到解:上述 vec 是对矩阵列的拼接,X = [X1,X2, ……,Xn], 则 vecX = [X1,X2, ……,Xn]T = np.reshape(...原创 2020-04-30 16:27:22 · 12770 阅读 · 0 评论 -
LASSO快速求解方法
在[1]中看到一个LASSO快速求解的方法,可以快速实现,但是暂时没搞懂具体原理,先放这里,等和其他方法对比一下结果了再写。参考:[1]Chen, J., & Yang, J. (2014). Robust subspace segmentation via low-rank representation. IEEE Transactions on Cybernetics, 44(8...原创 2020-04-14 15:04:17 · 1592 阅读 · 1 评论 -
论文阅读——Efficient and Robust Feature Selection via Joint L2,1-Norms Minimization
一、前言最近因为对结构化多任务学习,以及对带范数目标函数求解的学习,一直都很想求解带L2,1范数的目标函数(其实这只是个过程),针对这样的不光滑目标函数,梯度下降法并不合适。虽然sklearn中的MultiTaskLasso也是这样的目标函数,并且使用了坐标下降法来求解,但是当目标函数中的损失函数也用L2,1范数时我又懵圈了。正当我捉摸是不是能把两部分合在一起求解一个L2,1范数时(其实是数...原创 2020-04-06 21:59:37 · 2646 阅读 · 9 评论