youknow_zh的博客

什么是KNN KNN又叫做K邻近，即K nearst neighbors，属于分类任务 算法思想: 用待测样本较近的几个样本来代表待测样本 KNN三要素 K值的选择： K值较大容易欠拟合，K值较小容易过拟合，可以通过交叉验证来选取一个较好的值 距离的度量： 一般选用欧几里得距离 决策的规则： 在分类时选用多数表决法或者加权的多数表决法 在做回归时使用的是平均值法或者加权...

什么是决策树 决策树是机器学习当中的有监督分类算法，是一种利用概率来分析的图解法，从根节点开始按待测样本的特征属性，选择分支，直到叶子节点，其结果即叶子节点中较多数类别的结果 决策树分为两大类：分类树和回归树 决策树常用算法 ID3 C4.5 CART （classification and regression tree） 决策树的构建过程 关键步骤就是分裂属性 遍历所有属性，计算...

什么是集成学习？ 集成学习（ensemble learning）通过构建并结合多个学习器来完成学习任务。 一般来说集成学习可以分为三大类： 用于减少方差的 bagging 用于减少偏差的 boosting 用于提升预测结果的 stacking ...