songzhiren5560的博客

最近在学习《机器学习实战》    kNN算法是从训练集中找到和新数据最接近的k条记录（欧氏距离），然后根据他们的主要分类来决定新数据的类别。该算法涉及3个主要因素：训练集、距离或相似的衡量、k的大小。一、运行kNN算法    kNN算法可以解决如下问题，样本如下：span group = array([[1.0,1.1],[1.0,1.0],[0,0],[0,0.1]]) labels = [...

一、相关知识1 决策树算法     在构造决策树时，第一个需要解决的问题就是，如何确定出哪个特征在划分数据分类是起决定性作用，或者说使用哪个特征分类能实现最好的分类效果。这样，为了找到决定性的特征，划分川最好的结果，我们就需要评估每个特征。当找到最优特征后，依此特征，数据集就被划分为几个数据子集，这些数据自己会分布在该决策点的所有分支中。此时，如果某个分支下的数据属于同一类型，则该分支下的数据分类...