数据挖掘算法——决策树

讲决策树之前，先引入分类算法的概念：

分类算法概念：定义：分类（classification)分类任务就是通过学习得到一个目标函数(target funciotn)f，把每个属性集x映射到一个预先定义的类标号y。

目标函数：目标函数也称为分类模型（classification model）。

目标函数的作用：

（1）描述性建模，分类模型可以作为解释性工具，用以区分不同类中的对象。

（2）预测性建模：分类模型还可以用来预测未知记录的类标号。

建模的过程可以由下图来说明：

如上图所示，建立了分类模型之后，可以讲未知类别的属性集输入分类模型，然后通过分类模型得出类标号，那么如何通过原有的数据集建立分类模型，该建立什么样的分类模型就是我们主要需要考虑的问题。

如下图所示，分类模型的建立分为两个阶段，一个是学习阶段，一个是检验阶段。总体来讲，就是通过已有数据集来产生分类模型，然后通过训练集来检验分类模型。