概率密度函数估计

本文介绍了贝叶斯决策理论,并通过一个班级男女比例的例子解释了先验概率和类条件概率的概念。在实际问题中,由于样本有限,需要对先验概率和类条件概率进行估计,特别是类条件概率的估计极具挑战。文中提到了概率密度函数估计的两种方法:参数估计和非参数估计,包括最大似然估计、Bayesian估计以及Parzen窗方法和Kn近邻估计。

        首先来看贝叶斯决策,贝叶斯分类器就是根据如下贝叶斯公式来设计的。最常用的就是比较后验概率的大小,进行类别决策。(也就是基于最小错误率的分类器,还有其他的比如基于最小风险,NP决策等)。


        如何理解呢,说一个例子,比如一个班里面的男女比例为2:1,那么也就是说男生占2/3,女生占1/3。这个呢就叫做类别的先验概率(类别就是男生、女生),对应公式上的p(w)。接着假设这个班上男生翘课的概率为3/4,女生翘课的概率为1/4,那么这个就叫做类条件概率,也就是类别约束(男生或者女生)下,事件(翘课)的概率,对应上面公式的p(x|w)。需要注意:先验概率满足总和为1的约束,类条件概率不满足总和为1的约束。这也很好理解,因为所有的类别都是固定的,那么一个个体总是属于某个类别中的一个,而类条件概率,比如男生缺课和女生缺课是相互独立的事件,则缺课的概率p(x)=2/3 * 3/4 + 1/3*1/4=7/12。因为不存在约束关系,所以也就不满足总和为1的约束。


        上面

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值