yeqiustu的博客

本篇主要记录下svd(Singular Value Decomposition)、pca(Principal Component Analysis)、lda(Linear Discriminant Analysis)svdsvd是一种无监督的降维算法，其可以用来对任一矩阵（不要求为方阵）进行分解，如下：详细可参考：https://www.cnblogs.com/pinard/p/6251584.htmlpcapca是一种无监督的降维算法，其基本思想是如果样本在某一维度上的方差越大

超平面定义：超平面的法向量法向量：与超平面上任一向量正交的向量如图所示，点a、z为超平面上的任意两点，即有，则向量a-z为超平面上的任一向量，且有，根据法向量的定义，可知该超平面的法向量即为W，单位法向量为。点到超平面的距离d设点p在超平面的投影点为q，即，则有向量p-q与法向量W平行，即有（超平面上方的p点）或（超平面下方的p点），则有，即...

本文将以梯度下降法的方式来解释Lagrange和KKT。关键词：梯度下降法、等高线基础定义Lagrange求解等式约束下的最优化问题Lagrange函数： (1)方程组的解是原问题的可能的最优解KKT求解不等式约束下的最优化问题Lagrange函数： (2)方程组，即KKT条件，的解是原问题的可能的最优解解释梯度的定义，等式约束因...