朴素贝叶斯

朴素贝叶斯法是一种基于生成学习的方法,通过训练数据学习联合概率分布并求解后验概率。它假设输入变量条件独立,利用贝叶斯定理进行分类预测。当条件间存在依赖时,会转向使用贝叶斯网络。该方法以其高效和简洁的实现而著名。

        朴素贝叶斯法是一种典型的生成学习方法。生成方法由训练数据学习联合概率分布P(X,Y),然后求得后验概率分布P(Y|X),也就是利用数据学习P(X|Y)和P(Y)的估计,得到联合概率分布:

P(X,Y)=P(Y)P(X|Y)

然后利用贝叶斯定理与学到的联合概率进行分类预测:

P(Y|X) = \frac{P(X,Y) }{P(X)} = \frac{P(Y)P(X|Y)}{\sum_{Y}P(Y)P(X|Y)}

将输入x分到后验概率最大的类y。

y = arg max_{c_{k}} P(Y=c_{k})\prod P(X_{j}=x^{(j)}|Y=c_{k})

后验概率最大等价于0-1损失函数时的期望风险最小化。

概率估计方法可以是极大似然估计或贝叶斯估计。

(2)朴素贝叶斯法的基本假设是条件独立性(输入变量都是条件独立的),也因此该算法具有高效、易于实现等特点。

备注:如果条件之间存在概率依存关系,模型就变成了贝叶斯网络。

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值