李航 统计学习方法 第四章 朴素贝叶斯

最新推荐文章于 2023-03-17 14:30:38 发布
最新推荐文章于 2023-03-17 14:30:38 发布
阅读量374 收藏
点赞数
文章标签： 学习 概率论 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/manong_dashen/article/details/124829789
版权
本文介绍了朴素贝叶斯分类方法，基于贝叶斯定理和特征条件独立假设，通过训练数据集学习输入/输出的联合分布。主要内容包括朴素贝叶斯法的学习与分类，参数估计算法，以及条件独立性假设。文章还探讨了后验概率最大化的分类原则，并解释了极大似然估计在概率估计中的应用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

李航 统计学习方法 第四章 朴素贝叶斯

基于贝叶斯定理和特征条件独立假设的分类方法.对于给定的训练数据集, 首先基于特征条件独立假设学习输入/输出的联合分布; 然后基于此模型, 对给定的输入x, 利用贝叶斯定理求出后验概率最大的输出y.

介绍朴素贝叶斯法, 包括朴素贝叶斯的学习和分类, 朴素贝叶斯法的参数估计算法.

基本方法

输入空间是n维向量的集合, 输出空间为类标记集合 Y = c 1 , c 2 , . . . , c K \mathcal{Y}={c_1, c_2,..., c_K} Y=c1​,c2​,...,cK​, 输入为特征向量, 输出为类标记. X X X是定义在输入空间 X \mathcal{X} X上的随机向量, P ( X , Y ) P(X, Y) P(X,Y)是联合概率分布.

训练数据集由联合概率分布独立同分布产生.朴素贝叶斯法通过训练数据集学习联合概率分布, 也就是学习以西先验概率分布和条件概率分布. 先验概率分布 P ( Y = c k ) P(Y=c_k) P(Y=c

最低0.47元/天 解锁文章
manong_dashen
关注
李航《统计学习方法》朴素贝叶斯的python实现
m0_56641829的博客
04-03 1912
前言 朴素贝叶斯算法是通过贝叶斯公式及条件的独立性建立的一个生成模型，具体内容及原理参见李航《统计学习方法》，下面对朴素贝叶斯算法通过python 实现。因为本人是数学专业非科班，所以很多代码显得很冗余，因为只用了一些基本的方法所以有些函数的定义显得比较多余，但通过基本的方法有些时候更加能够明白代码实现的原理，作为刚入门的笔者希望通过少掉包的方式端倪按自己的算法逻辑，学习思路和代码仅供参考。 朴素贝叶斯算法的实现 1.数据集 数据来自李航《统计学习方法》p50，例4.1 2.代码实现 ...
统计学习（李航）——朴素贝叶斯法（python代码）
Lancy_cai的博客
01-16 557
朴素贝叶斯法中心思想： 对于给定的数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布P(X，Y)，具体地，学习以下先验概率及条件概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。 先验概率分布： P(Y=ck),k=1,2,⋯ ,K P\left(Y=c_{k}\right), \quad k=1,2, \cdots, K P(Y=ck​),k=1,2,⋯...
统计学习方法 李航---第4章 朴素贝叶斯法
dazhichang6061的博客
07-28 393
第4章 朴素贝叶斯法 朴素贝叶斯 (naive Bayes) 法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出Y。 4.1 朴素贝叶斯法的学习与分类 基本方法 朴素贝叶斯法通过训练数据集学习X和Y的联合概率分布 P(X,...
用贝叶斯估计法推出朴素贝叶斯法中的慨率估计公式
weixin_43221749的博客
03-17 511
×第3步：证明公式(4.10)
【李航统计学习】学习笔记第三篇第四章：朴素贝叶斯法
jql20182107的博客
07-30 515
朴素贝叶斯法(naiveBayes)是基于贝叶斯定理和特征条件独立假设的分类方法。对于给定的训练数据聚集，首先基于特征条件独立假设学习输入输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。.........
统计学习方法(李航) 朴素贝叶斯 附python及sklearn实现
m0_49337600的博客
08-11 370
朴素贝叶斯 有监督学习 分类问题 首先让我们回忆一下概率中的基本公式： 条件概率： P(A∣B)=P(A,B)P(B) P(A|B)=\frac{P(A,B)}{P(B)} P(A∣B)=P(B)P(A,B)​ P(B∣A)=P(B,A)P(A) P(B|A)=\frac{P(B,A)}{P(A)} P(B∣A)=P(A)P(B,A)​ 乘法公式： P(A,B)=P(B,A)=P(A∣B)P(B)=P(B∣A)P(A) P(A,B)=P(B,A)=P(A|B)P(B)=P(B|A)P(A) P(A,B)
李航老师《统计学习方法》第2版课件：第4章 贝叶斯分类器.rar
03-10
在第4章“贝叶斯分类器”中，李航老师详细讲解了贝叶斯理论及其在分类问题中的应用。贝叶斯分类器是一种基于概率的预测模型，它的核心思想是贝叶斯定理，这是概率论中的一个基本概念，对于理解和应用统计学习有着至...
统计学习方法_代码：手写实现李航《统计学习方法》书中全部算法
02-16
第四章朴素贝叶斯： 博客：实现： 第五章决策树： 博客：实现： 第六章逻辑斯蒂回归与最大熵模型： 博客：逻辑斯蒂回归：博客：最大熵： 实现：逻辑斯蒂回归： 实现：最大熵： 第七章支持向量机： 博客：实现： ...
李航《统计学习方法》第4章习题答案参考
iwanthn的博客
07-25 6160
李航《统计学习方法》课后习题解答
第四章朴素贝叶斯法.4.2 贝叶斯估计
老毛的博客
03-16 367
文章目录前情回顾贝叶斯估计例子4.2 本课程来自深度之眼，部分截图来自课程视频以及李航老师的《统计学习方法》第二版。 公式输入请参考：在线Latex公式+ 前情回顾 上节讲朴素贝叶斯算法的时候有3个步骤，第一个步骤公式的条件概率： P(X(j)=ajl∣Y=ck)=∑i=1NI(xi(j)=ajl,yi=ck)∑i=1NI(yi=Ck)j=1,2,⋯ ,n;l=1,2,⋯ ,Sj;k=1,2,⋯ ,KP(X^{(j)} = a_{jl}|Y=c_k)=\cfrac{\sum_{i=1}^NI(x_i^{(j
统计学习方法-李航 第四章 朴素贝叶斯法
小小码农
08-12 481
朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。训练的时候，学习输入输出的联合概率分布；分类的时候，利用贝叶斯定理计算后验概率最大的输出。 朴素贝叶斯法的学习与分类 而条件概率分布条件概率分布 参数数量是指数级的，也就是X和Y的组合很多，假设xj可能取值Sj个，Y可能取值有K个，那么参数的个数是参数个数 特别地，取xj=S，那么参数个数为KSn，当维数n很大的时候，就会发生维数灾难...
朴素贝叶斯法
yimiaomochu的博客
03-06 470
朴素贝叶斯发是基于贝叶斯定理与特征假设的分类方法。 对给定训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定力求出后验概率最大的输出y
【李航统计学习笔记】第四章：朴素贝叶斯
weixin_39236489的博客
07-24 267
（尾巴：补充一些例子）例子4.1：女朋友和妈妈掉河里了，路人拿出来3颗豆, 两颗红豆1颗绿豆。如果我抽中红豆救女朋友, 抽中绿豆救妈妈。我和路人各自抽了一颗, 路人发现自己抽中的是绿豆，他想用剩下的那颗和我换，我换不换？换不换豆女朋友活下去的概率一样吗？直觉来讲： 换不换豆我抽中红豆的概率应该都是 1/31 / 31/3 。这时路人跟我说他的是绿豆, 排除一颗, 我抽中红豆的概率是 1/21 / 21/2 。换不换概率都是 1/21 / 21/2 。计算一下：如果更换，那么其实就是重新在两个豆子中选了，所以
机器学习(李航统计学方法)之朴素贝叶斯
qq_33948796的博客
02-22 805
#机器学习-机器视觉 学习心得 本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦： Markdown和扩展Markdown简洁的语法 代码块高亮 图片链接和图片上传 LaTex数学公式 UML序列图和流程图 离线写博客 导入导出Markdown文件 丰富的快捷键 快捷键 加粗 Ctrl + B 斜体 Ctrl + I 引用 Ctrl...
4-4 朴素贝叶斯 贝叶斯估计算法过程
幸福在路上
03-15 899
贝叶斯估计是最大似然估计的改进。 在最大似然估计算法中计算得到的先验概率、条件概率都有可能是0，这会导致最终得到的后验概率没有意义。 贝叶斯估计在最大似然估计的分子分母中同时添加了系数lamda，防止出现计算结果为0的情况。 def NaiveteBayes(T, y, a, Y, x, lam=0): # 计算先验概率 prepro = {} for yRange in ...
李航《统计学习方法》第4章——朴素贝叶斯法
m0_61165991的博客
07-06 431
输入空间为 nnn 向量：X⊆Rn\mathcal{X} \subseteq \mathbb{R}^nX⊆Rn输出空间为类标记：Y={c1,c2,...,cK}\mathcal{Y} = \{ c_1,c_2,...,c_K\}Y={c1​,c2​,...,cK​}训练数据集： T={(x1,y1),(x2,y2),...,(xN,yN)}T = \{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}T={(x1​,y1​),(x2​,y2​),...,(xN​,yN​)} ，由联合分布
机器学习-朴素贝叶斯（李航统计学习方法）
IST-CTO
10-28 418
前言 本文主要对朴素贝叶斯中的例4.1和4.2进行代码实现（文末有完整代码） 一、 示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。 1.引入库 import numpy as np from functools import reduce 2.读入数据 def loadDataSet(): DataList = [[1, 'S'], [1, 'M'], [1, 'M'], [1, 'S'], [1, 'S'], [2, 'S'], [2, 'M'],
《统计学习方法（李航）》朴素贝叶斯学习总结
jliang3的博客
12-23 608
作者：jliang https://blog.youkuaiyun.com/jliang3   1.重点归纳 1）朴素贝叶斯（naive Bayes）法只能用于分类，先基于特征条件独立假设学习输入/输出的联合概率分布，然后对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。 2）损失函数：0-1损失函数 3）目标函数：后验概率最大化 4）属于生成式模型 5）联合概率分布： 6）贝叶斯...
朴素贝叶斯法（Naive Bayes，NB）（结合例子推公式，通俗易懂）
weixin_46838605的博客
02-16 4308
朴素贝叶斯是一种概率模型，同时也是参数化模型，经常用于监督学习的分类应用中，例如垃圾邮件分类。对于训练集，首先学习输入输出的联合概率分布模型，然后基于此模型，对给出的输入x，利用贝叶斯定理求出后验概率最大的输出y。 先来看看最终的公式： y=argmaxP(Y=ck)∏jP(X(j)=x(j)∣Y=ck) y = argmaxP(Y=c_k)\prod_{j}P(X^{(j)}=x^{(j)}|Y=c_k) y=argmaxP(Y=ck​)j∏...
李航《统计学习方法》贝叶斯分类器第4章课件解析
资源摘要信息:《统计学习方法》是由李航老师编写的一本深入浅出介绍统计学习领域中各种方法的教材。本书不仅适合对统计学习感兴趣的普通读者，同时也适用于高等院校相关专业的学生和教师作为学习材料。第2版的课件中...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值