各种机器学习分类器模型分析与认识

一、首先从线性和非线性上来看:

线性linear,指量与量之间按比例、成直线的关系,在数学上可以理解为一阶导数为常数的函数; 非线性non-linear则指不按比例、不成直线的关系,一阶导数不为常数。
a. 线性的可以认为是一次函数曲线,比如y=ax+b ,即成一条直线,变量的关系是直线即为线性关系
   非线性的可以认为是二次及高次函数曲线,比如y=ax^2+bx+c,非直线即为非线性关系
b. “线性”与“非线性”,常用于区别函数y = f (x)对自变量x的依赖。
  线性,指量与量之间按比例、成直线的关系,在空间和时间上代表规则和光滑的运动;而非线性则指不按比例、不成直线的关系,代表不规则的运动和突变。 
******************************线性分类器和非线性分类器*****************************************

线性分类器:模型是参数的线性函数,分类平面是(超)平面;
非线性分类器:模型分界面可以是曲面或者超平面的组合。
典型的线性分类器有感知机,线性判别分析(LDA),逻辑斯特回归,支持向量机SVM(线性核);
典型的非线性分类器有朴素贝叶斯(线性非线性有争议),KNN,决策树,SVM(非线性核)。

二、分类算法。

贝叶斯分类器,KNN,SVM支持向量机,决策树,

1、贝叶斯分类器

贝叶斯分类器是一类分类算法的总称,以贝叶斯定理为基础,因此统称为贝叶斯分类器。 
原理:通过某对象的先验概率,利用贝叶斯公式计算出其后验概率,即该对象属于某一类的概率,选择具有最大后验概率的类作为该对象所属的类。

目前研究较多的贝叶斯分类器主要有四种: 
(1)朴素贝叶斯(Naive Bayes,简称NB):最简单的监督学习分类器,这个分类器模型是建立在每一个类别的特征向量服从正态分布的基础上的(据说不满足独立分布,效果也很好),因此也被称为概率分类器。整个分布函数被假设为一个高斯分布,每一类别一组系数。当给定了训练数据,算法将会估计

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值