数据挖掘学习笔记-第三章 从贝叶斯到决策树

第三章 Bates & Decision Tree Model 

Classification   a kind of supervised learning 

Bates Theorem  

贝叶斯公式的应用：癌症与阳性关系 

 

Naive Bates Classifier      假设：conditionally independent  

 

条件独立的一些例子 

 

 

Independent != Uncorrelated  

避免连乘是出现0，需要做拉普拉斯平滑。 

应用例子

预测某条件下打网球的概率 

文章推荐 

 

 

决策树

Decision Making  

一些规则如：One dataset,many possible trees 

      Simpler tree are generally preferred. 

ID3  常用的决策树 

Entropy  and Gain 

 

根据Entropy 和 Gain 即可做 Attribute Selection  

 

ID3 Frameworks  

 

Overfitting 测试

  pruning  

Entropy Bias 

Continuous Attribute  

Reading Materials  

总结：ID3 是最基本的决策树，还有很多新发展的决策树可以学习，不同的决策树对

连续型的处理，对缺失值的处理都有不同的方式可以去好好学习

 

转载于:https://www.cnblogs.com/xinluo-fresher/p/10763817.html