铅笔头的博客

最近在看机器学习方面的看法，写写博客增加一下自己的印象。 朴素贝叶斯原理介绍 后验概率最大化的含义 极大似然估计 学习与分类算法 贝叶斯估计 1、朴素贝叶斯原理介绍 条件独立性假设等于是说用于分类的特征在类确定的条件下都是条件独立的。这一假设使朴素贝叶斯计算起来更加的简单。但有时会牺牲一定的分类准确率。 在介绍贝叶斯之前有几个概念需要弄清楚。 XXX:训练数据 YYY:假设空间 yiy...

决策树（decision tree)是一种基本的分类与回归方法。其主要优点是模型具有可读性，分类速度快。学习时利用训练数据，根据损失函数最小化的原则建立决策树。预测时，对新的数据利用决策树模型进行分类。 决策树通常包括三个步骤：特征选择、决策树的生成、决策树的修剪 其中决策树的生成只考虑局部最优，决策树的修剪则考虑全局最优。 决策树的思想来源主要来自于三个算法：ID3算法、C4.5算法以及CART...