user_zongji的博客

机器学习实战之朴素贝叶斯一、朴素贝叶斯算法概述1.贝叶斯决策理论2.条件概率3.全概率公式4.贝叶斯推断5.朴素贝叶斯推断二.实战 一、朴素贝叶斯算法概述 朴素贝叶斯算法是有监督的学习算法,解决的是分类问题,如客户是否流失,是否值得投资、信用等级评定等多分类问题. 该算法有点在于简单易懂,学习效率高,在某些领域的分类问题中能够与决策树、神经网络相媲美 但由于该算法以自变量之间的独立(条件特征独立)性和连续变量的正态假设为前提,就会导致算法精度在某种程度上受影响. 朴素贝叶斯是贝叶斯决策理论的一部分,讲述朴

机器学习实战之决策树熵的概述一、决策树简介二、决策树的一般流程三、决策树构建的准备工作1、特征选择（1）香农熵（2）编写代码计算经验熵 一、决策树简介 决策树是什么？ 自己理解: 决策树是一颗能给人们带来决策的树,它将根据提供的可能条件,构建一颗树的模型,其中条件即树的枝干,可能性越强,枝干将会长得越茂盛,反之就越秃. 书中解释: 决策树(decision tree)是一种基本的分类与回归方法。举个通俗易懂的例子，如下图所示的流程图就是一个决策树，长方形代表判断模块(decision block)，椭圆形成

机器学习实战之K-近邻算法一、K-近邻算法简介二、K-1.CreateTable2.Sample 一、K-近邻算法简介 k邻近算法是一种通过测量与不同特征值的距离的方法进行分类的分类算法。 优点：精度高，对异常值不敏感，无数据输入假定。 缺点：算法的时间，空间复杂度很高，实用性不强。 适用数据范围：数值型，标量型。 工作原理:假设有一个样本数据集,且样本集中每个数据都存在标签(即分类)。在输入没有标签的数据后，将数据与样本进行距离计算，距离短的数据中出现频率最高的类别即可认为是该数据的标签。 二、K- 注: