a524633094的博客

定义 是一个类似于流程图的树结构：其中，每个内部结点表示在一个属性上的测试，每个分支代表一个属性输出，而每个树叶结点代表类或类分布。树的最顶层是根结点。 示例 熵（entropy） 1948年，香农提出了 ”信息熵(entropy)“的概念，一条信息的信息量大小和它的不确定性有直接的关系，要搞清楚一件非常非常不确定的事情，或者是我们一无所

特性 简单高效的数据挖掘和机器学习分析 对所有用户开放，根据不同需求高度可重用性 基于Numpy, SciPy和matplotlib 开源，商用级别：获得 BSD许可 覆盖问题领域 分类（classification) 回归（regression) 聚类（clustering) 降维(dimensionality reduction) 模型选择(mod

KNN是一种分类算法，其输入是基于实例的学习(instance-based learning), 即是懒惰学习(lazy learning)算法步骤 1、为了判断未知实例的类别，以所有已知类别的实例作为参照 2、选择参数K 3、计算未知实例与所有已知实例的距离 4、选择最近K个已知实例 5、根据少数服从多数的投票法则(majority-voting)，让未知实例归类为K个最