对机器学习各个经典算法的总结：KNN、高斯贝叶斯、随机森林、梯度增强、SVM支持向量机、Adaboost、逻辑回归算法

（1）K近邻分类器算法（K Neighbor）: 存在一个样本数据集合，也称作训练样本集，并且样本集中每个数据都存在标签，即我们知道样本集中每一数据 与所属分类的对应关系。输人没有标签的新数据后，将新数据的每个特征与样本集中数据对应的 特征进行比较，然后算法提取样本集中特征最相似数据（最近邻）的分类标签。一般来说，我们 只选择样本数据集中前K个最相似的数据，这就是K-近邻算法中K的出处,通常来说K是不大于20的整数。 最后 ，选择K个最相似数据中出现次数最多的分类，作为新数据的分类。
（2）高斯朴素贝叶斯分类器（GaussNB）：贝叶斯分类器是一类分类算法的总称，贝叶斯定理是这类算法的核心，因此统称为贝叶斯分类。贝叶斯决策论通过相关概率已知的情况下利用误判损失来选择最优的类别分类。朴素贝叶斯分类器的训练过程就是基于训练集D来估计类先验概率p©，并为每个属性估计条件概率P（Xi｜c）。高斯朴素贝叶斯(Gaussian Naive Bayes)算法假设所有特征都具有高斯分布(正态/钟形曲线)。这适用于连续数据，例如日温度，高度。高斯分布中68%的数据在均值的一个标准差范围内，96%在均值的两个标准差范围内。非正态分布的数据在高斯朴素贝叶斯分类器中使用精度较低，可以使用分布不同的朴素贝叶斯分类器。
（3）Gradient Boosting算法：将梯度下降法结合到Boost方法中，具体步骤如下：1、选择基学习器类型g 。2、模型初始化。3、在第m轮子学习器的训练中，计算各样本点处负梯度。4、用基学习器g(x)来拟合上述负梯度。5、通过解析解或线性搜索法，寻找最优的步长αm，从而得到当前模型。6、迭代步骤（3&