geniusle201的博客

我一直相信，检验学习效果最好的方法是给别人讲，让别人听明白，自己也算是学成了。因此，我打算认认真真写一写关于机器学习的这一系列笔记，一是做个笔记，二是用自己的话把机器学习讲一讲。机器学习，就是通过利用已有的经验(这里的经验在计算机科学中通常以数据的形式存在)，来改善系统自身的性能。举个例子，我们想通过训练使自己具备判别西瓜熟生的能力。一开始我们并不会挑哪些是熟的，哪些是生的。我们先记录一个

python中的axis，翻译过来叫做轴线，但是，在科学计算中究竟是如何定义的呢？axis=0和axis=1分别是什么意思？为了弄明白，专门做了个小实例：第1步：创建一个frame:In[6]: frame=pd.DataFrame(np.arange(9).reshape((3,3)),index=['a','b','c'],columns=['Ohio','Texas','Califo

1.前言最近在看一篇论文——《why_xgboosting_win_every_machine_learning_competition 》，顺便打算写几篇博文，把决策树相关知识做一个整理，从概念开始，经由一些经典算法，最终到对xgboosting的分析。2.概念决策树是机器学习中的一个经典的算法，其简单性无与伦比，甚至一个不懂机器学习的人也能用它开始机器学习，可谓居家旅行，修身养...

1. CART决策树CART决策树(Classification and Regression Tree)又称为分类与回归树，该模型是由Breiman等人在1984年提出，是一种注明的的决策树学习算法。从名字就可知道，这个算法既能处理分类问题，又能解决回归问题。 CART决策树与之前文章讨论过的ID3算法、C4.5算法有着类似的逻辑，不过也有所不同。1.1 基尼指数CART决策树...

1. C4.5算法前一篇文章机器学习算法–决策树ID3–python实现 讲述了决策树的基本概念和最经典的ID3算法。 在那篇文章中，我没有谈到ID3算法的缺陷，更多的是侧重于介绍决策树的算法和概念。但其实，ID3算法存在这么几个缺陷： 1.信息增益准则对可取数值数目较多的属性有所偏好； 比如，如果在原来的数据中加入[序号]这一属性，运行ID3算法后，我们会发现序号被作为最优属性首...