决策树选取最优特征

最新推荐文章于 2024-03-22 07:57:00 发布

原创

最新推荐文章于 2024-03-22 07:57:00 发布 · 858 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#决策树 #算法 #机器学习

Python3《机器学习实战》学习笔记（二）：决策树基础篇之让我们从相亲说起_Jack-Cui-优快云博客

本文理论知识依据来源上文，以下为上述链接代码个人实现部分

import math


def createDataSet():
    dataSet = [[0, 0, 0, 0, 'no'],  # 数据集
               [0, 0, 0, 1, 'no'],
               [0, 1, 0, 1, 'yes'],
               [0, 1, 1, 0, 'yes'],
               [0, 0, 0, 0, 'no'],
               [1, 0, 0, 0, 'no'],
               [1, 0, 0, 1, 'no'],
               [1, 1, 1, 1, 'yes'],
               [1, 0, 1, 2, 'yes'],
               [1, 0, 1, 2, 'yes'],
               [2, 0, 1, 2, 'yes'],
               [2, 0, 1, 1, 'yes'],
               [2, 1, 0, 1, 'yes'],
               [2, 1, 0, 2, 'yes'],
               [2, 0, 0, 0, 'no']]
    labels = ['年龄', '有工作', '有自己的房子', '信贷情况']
    return dataSet, labels


def calShannonEnt(dataSet):
    totalNum = len(dataSet)
    la