
统计学习方法
lzzdflg
川大图形图像计算机视觉硕士
展开
-
感知机的对偶形式
首先声明感知机的对偶形式与原始形式并没有多大的区别,运算的过程都是一样的,但通过对偶形式会事先计算好一些步骤的结果并存储到Gray矩阵中,因此可以加快一些运算速度,数据越多节省的计算次数就越多,因此比原始形式更加的优化。 首先我们介绍一下感知机的原始形式,之后与其对比。感知机感知机是二类分类的线性分类模型,输入为实例的特征向量,输出为实例的类别,分别去+1和-1两值。感知机对应与输入空间中将实例划原创 2017-11-09 17:43:45 · 10449 阅读 · 4 评论 -
决策树CART与ID3,C4.5联系与区别
CART与ID3和C4.5相同都由特征选择,树的生成,剪枝组成。但ID3和C4.5用于分类,CART可用于分类与回归。CART是在给定输入随机变量X条件下输出随机变量Y的条件概率分布,与ID3和C4.5的决策树所不同的是,ID3和C4.5生成的决策树可以是多叉的,每个节点下的叉树由该节点特征的取值种类而定,比如特征年龄分为(青年,中年,老年),那么改节点下可分为3叉。而CART为假设决策树为二叉树,原创 2017-12-02 11:49:29 · 15655 阅读 · 0 评论 -
最大似然估计(MadTurtle)
似然函数似然函数是给定联合样本值x下关于未知参数θ的函数: 等式右边表明在给定θ时,x出现的可能性大小。 类似于当x∈X时 如果X时离散的随机变量 ,即代表了在参数θ下随机向量X取到x的可能性,也可以称为概率质量函数。 当X为连续随机变量时,那么f(x|θ)为给定θ下x的概率密度函数。等式左边表明在给定样本x时,对于不同的θ,那个θ可以使x出现的可能性最大。 (这里的参数θ可以参照后面极原创 2017-12-26 19:56:35 · 540 阅读 · 0 评论