qq_38023849的博客

目录基本原理介绍数学描述基本原理介绍  Fisher线性分类器是将nnn维训练样本投影到1维空间上，然后在一维空间进行分类，最关键的参数就是投影方向www。  由于投影方向有很多，如何得到最佳的投影方向呢？，这个投影过程要求满足一个原则，这个原则一句话解释就是：类内离散度越小越好，类间离散度越大越好。  记类内离散度为SwS_wSw​，类间离散度为SbS_bSb​，整个准则可以描述为：max J=SbSwmax \ J=\frac{S_b}{S_w}max J=Sw​S

目录LR回归概率解释  Logistic 回归是一种分类器，功能与贝叶斯分类器，SVM等分类器一致，是用于分类的，而不是进行数据回归的。下面简单介绍下整个LR模型的基本原理，主要有两个核心问题，1是LR如何分类，2是如何得到模型内相应的参数。LR回归  首先介绍sigmoid函数，sigmoid函数可以把任意实数域内的元素映射到(0，1)(0，1)(0，1)之间。表达式如下：y(x)=11+e−x(1)y(x)=\frac{1}{1+e^{-x}}\tag{1}y(x)=1+e−x1​(1)

目录：EM算法GMM模型K-means算法EM算法基本问题  首先介绍以下EM算法要解决的基本问题。一句话表述

目录最优超平面线性SVM非线性SVM最优超平面超平面的定义  超平面是二维直线，三维平面到nnn维欧式线性空间的一个推广，在nnn维线性空间中，所有的平面都可以用统一的方程进行表达，即：wTX+b=0w^TX+b=0wTX+b=0  其中，www是超平面的法向量，XXX是满足超平面方程的向量坐标，bbb是一个常数。首先解释超平面方程的形式，然后解释超平面方程的几何意义，最后介绍一些性质。  首先，对于直线y=kx+by=kx+by=kx+b，可以写成[k −1][xy]+b=0