python 使用Id3算法实现决策树

最新推荐文章于 2023-07-02 16:39:16 发布

原创

最新推荐文章于 2023-07-02 16:39:16 发布 · 2.6k 阅读

17 ·

CC 4.0 BY-SA版权

文章标签：

#python #id3 #决策树

本文通过Python实现了Id3决策树算法，基于《统计学习方法》中的例子。train()函数生成决策树并保存到dtree.txt，test()函数进行决策树测试。决策树主要根据是否有房和是否有工作进行判断。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

依然是学习《统计学习方法》一书所做的简单实验，写代码的过程参考了大量其他的博客，本人在此深表感谢。代码实现的依然是书上的例子：
这里写图片描述

import numpy as np
import math
import operator

def CreateDataSet():
    dataset = [ [1, 0,0,0,'no'],
                [1, 0,0,1,'no'],
                [1, 1,0,1,'yes'],
                [1, 1,1,0,'yes'],
                [1, 0,0,0,'no'],

                [2, 0,0,0,'no'],
                [2, 0,0,1,'no'],
                [2, 1,1,1,'yes'],
                [2, 0,1,2,'yes'],
                [2,