决策树，decision的pyton代码和注释（机器学习实战）

最新推荐文章于 2019-07-01 19:23:08 发布

boat_lee

最新推荐文章于 2019-07-01 19:23:08 发布

阅读量1.8k

点赞数

CC 4.0 BY-SA版权

分类专栏：算法文章标签：机器学习决策树

本文链接：https://blog.youkuaiyun.com/u010451580/article/details/52619359

本文介绍了使用Python实现决策树算法的过程，包括计算香农熵、数据集划分、选择最佳特征以及创建决策树节点的详细步骤。代码示例展示了如何构建和应用决策树进行分类。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Decison Tree的注释：画图部分不给注释了

from math import log
import numpy
def calcShannonEnt(dataSet):
    numEntries = len(dataSet)
    labelCounts = {}

#这个是字典，｛a:1,b:2｝其中a，b是key，1，2是对应的value
    for featVec in dataSet:
        currentLabel = featVec[-1]

#-1代表最后一行，也就是类标
        if currentLabel not in labelCounts.keys():
            labelCounts[currentLabel] = 0
        labelCounts[currentLabel] += 1
    shannonEnt = 0.0
    for key in labelCounts:
        prob = float(labelCounts[key])/numEntries
        shannonEnt -= prob * log(prob,2)
    return shannonEnt
def createDataSet():