机器学习常用算法总结1 1.LR 原理 损失函数 思路: 2.svm 原理 损失函数 思路 升级 核函数 松弛变量 3.PCA 思路 4. LDA 原理 损失函数 思路 5.决策树 6.K-means 思路 7.KNN 思路 8. 朴素贝叶斯 9. 集成学习 1.LR LR:逻辑回归,对数据进行二分 原理 逻辑回归假设数据服从伯努利分布,通过极大化似然函数的方法,运用梯度下降来求解参数,来达到将数据二分类的目的。 损失函数 思路: (1) h θ h_θ hθ( x i x_i x