机器学习总结（四）：朴素贝叶斯（Naive Bayes）

最新推荐文章于 2024-08-12 11:34:02 发布
原创 最新推荐文章于 2024-08-12 11:34:02 发布 · 1.8k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习

本文介绍了朴素贝叶斯分类器的基本思想，包括贝叶斯定理与特征条件独立假设，解释了为什么称其为“朴素”，并讨论了条件独立性假设在推导过程中的作用。此外，文章还探讨了后验概率最大化的理由，以及如何处理数据稀疏性和计算先验条件概率的问题，提出了贝叶斯估计和聚类的解决方案，并针对概率计算中的下溢出问题提出了解决策略。

（1）基本思想：基于贝叶斯定理与特征条件独立假设的分类方法；首先基于特征条件独立假设学习输入/输出的联合概率分布，然后基于此模型，对给定的输入x,利用贝叶斯定理求出后验概率最大的输出y。

（2）为什么叫“朴素”：对条件概率分布作了条件独立性的假设，因为这是一个较强的假设。

条件独立性假设：

根据贝叶斯定理推导：

最低0.47元/天 解锁文章
机器学习算法（二）: 朴素贝叶斯(Naive Bayes)
Deng872347348的博客
04-17 251
机器学习算法（二）: 朴素贝叶斯(Naive Bayes)
数据处理和分析之分类算法：朴素贝叶斯(NaiveBayes)：朴素贝叶斯算法的局限性
最新发布
2401_87715305的博客
10-02 1157
朴素贝叶斯分类器基于贝叶斯定理和特征条件独立假设，其在文本分类、情感分析、垃圾邮件过滤等领域展现出强大的能力。这是因为这些应用中，特征之间的独立性假设往往较为合理，且朴素贝叶斯能够处理高维特征空间，对缺失数据不敏感，计算效率高。
朴素贝叶斯(Naive Bayes)学习总结
Zero_HeiYuFeng的博客
03-10 516
朴素贝叶斯算法的基本思想是建立特征XXX与输出 YYY 之间的联合概率分布 P(X,Y)P(X, Y)P(X,Y) ，在对给定的特征进行预测时，通过贝叶斯定理求出所有可能的输出 P(X∣Y)P(X | Y)P(X∣Y) ，取其中最大的作为预测结果。其优点是模型简单，效率高，在很多领域有广泛的使用。 生成学习算法与判别学习算法 生成学习算法与判别学习算法是监督学习的两种方式，今天要说的朴素贝叶斯算...
NLP(9): 机器学习介绍，朴素贝叶斯，python高阶函数应用
JJJJJJames的博客
02-09 368
第一节：机器学习 D={X,y} x：特征 y：标签 f：学习x到y的映射关系 1、机器学习定义： 自动从已有的数据里找出一些规律（与专家系统的区别），然后把学到的这些规律应用到对未来数据的预测值，或者在不确定环境下自动地做出一些决策。 Name Supervised learning unsupervised learning 生成模型 朴素贝叶斯 GAN/HMM/LDA/GMM 判别模型 逻辑回归/conditional random field None 2、Supervi
朴素贝叶斯法(Python)
05-30
朴素贝叶斯法，使用 scikit-learn 自带的 digits 数据集
《机器学习实战》 第四章 朴素贝叶斯 学习总结
wanty_chen的博客
04-09 572
朴素贝叶斯：使用条件概率进行分类分类准则如下：    如果 P(c1|x, y) > P(c2|x, y), 那么属于类别 c1;    如果 P(c2|x, y) > P(c1|x, y), 那么属于类别 c2.两个假设：假设特征之间相互独立，且每个特征同等重要。应用：文档的自动分类       首先遍历并记录下文档中出现的词，并将每个词的出现或不出现作为一个特征；然后计算不同的独立...
朴素贝叶斯分类学习总结
qq_19841133的博客
10-09 983
写在前面：还是笔记的总结输出，大佬看了笑笑就好 朴素贝叶斯 首先我们在小学二年级就学过先验概率，百度百科给出的解释：先验概率（prior probability）是指根据以往经验和分析得到的概率，个人理解上来说其实先验概率没那复杂，它本质就是一个概率，p(X=x)，事件X=x发生的概率，追根溯源计算的方式是用事件X=x发生的次数/总样本事件发生的次数，就是数频数，然而在试题中，一般分子上的先验概率已知，而分母的先验概率一般是通过全概率公式计算得到的，即其先验概率不能直接得到，要通过∑(完备事件组发生的
机器学习算法: 朴素贝叶斯(Naive Bayes)
gangyikeji的博客
08-12 1460
朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分类效率。NB模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。当年的垃圾邮件分类都是基于朴素贝叶斯分类器识别的。什么是条件概率，我们从一个摸球的例子来理解。我们有两个桶：灰色桶和绿色桶，一共有7个小球，4个蓝色3个紫色，分布如下图：从这7个球中，随机选择1个球是紫色的概率p是多少？先选择桶。
朴素贝叶斯 Naive Bayes Classifier
JasonH2021的博客
05-27 3277
本文主要简单介绍了朴素贝叶斯的基本概念，优缺点，应用场景，建模时的注意事项，模型的评价指标，以及朴素贝叶斯在解决分类任务时的python实现方法和示例等。
机器学习方法总结（七）：朴素贝叶斯
qq_38593211的博客
08-01 335
朴素贝叶斯 1.简介     朴素贝叶斯法是典型的生成学习方法，生成方法由训练数据得到联合概率分布P(X,Y)和先验概率P(X)，在训练的过程中求得后验概率P(Y|X)，即：P(X,Y)=P(Y|X)P(Y)，在测试时去求P(X|Y),而前几篇文章介绍的算法都是基于判别的模型，直接去拟合后验概率，注意这里为什么要叫朴素贝叶斯，朴素的原因就是因为它的特征都是独立不会互相影响的。 2.流程  ...
机器学习十大经典算法之朴素贝叶斯（学习笔记整理）
weixin_43374551的博客
10-28 2168
1.高斯贝叶斯分类器 import pandas as pd from sklearn import model_selection,naive_bayes,metrics import matplotlib.pyplot as plt data=pd.read_excel(r'C:\Users\Administrator\Desktop\Skin_Segment.xlsx') #拆分为训练集和...
朴素贝叶斯学习笔记
Jane_Esteen的博客
07-03 455
1.1 贝叶斯公式P(B|A): 事件A发生条件下事件B发生的概率，即后验概率；P(B): 事件B发生的概率，即先验概率；P(A|B): 事件B发生条件下事件A发生的概率，即条件概率。1.2 特征条件独立假设要求后验概率，麻烦的点在于条件概率的参数太多，有着指数级数量的参数，假设：（上头的参数个数是《统计学习方法》第47页给出的 ，我不太理解，举个例子，如果有两个特征X1，X2，各有3种取值，标签...
python朴素贝叶斯调参_机器学习从入门到放弃之朴素贝叶斯
weixin_39902345的博客
12-09 363
简介这次我们来谈谈机器学习中另外一个数学气息比较浓的算法朴素贝叶斯算法。可能有朋友会看见数学气息比较浓心理就咯噔一下，先别急着叉掉本文，说朴素贝叶斯算法算法的数学气息比较浓，并非它有什么巨发杂的数学公式，而是它常见于概率统计之中，在本科教育就有对其比较详细的描述，而之前体积的K邻近，决策树,包括以后可能会谈到的SVM,神经网络网络等，恐怕不是专业领域,很难知道这些名词。当然，可能你已经忘记了，那我...
python朴素贝叶斯调参_面试
weixin_39524636的博客
12-09 711
ML & DM集成学习 模型融合 ensembleEMEM算法的目标是找出有隐性变量的概率模型的最大可能性解，它分为两个过程E-step和M-step，E-step通过最初假设或上一步得出的模型参数得到后验概率，M-step重新算出模型的参数，重复这个过程直到目标函数值收敛。PageRank使用了马尔可夫模型，用图模型表示各个网页，并且网页转移符合马尔可夫链 。简单说来就是求Markov转...
机器学习朴素贝叶斯调参
weixin_35752645的博客
12-31 1152
在机器学习中，朴素贝叶斯分类器是一种基于贝叶斯定理的监督学习算法。它可以用于分类问题，其中输入数据属于两个或更多的类别。 调参是指在训练模型之前，根据数据特征和模型的性质来调整模型的参数，以使模型更好地适应数据。对于朴素贝叶斯分类器，常见的调参方法包括： 选择合适的分布模型：朴素贝叶斯分类器可以使用不同的分布模型，如伯努利分布、多项式分布、伽马分布等。根据数据的性质，可以选择合适的分布模型，以获...
《机器学习实战》朴素贝叶斯（Naive Bayes）分类
littlely_ll的博客
01-20 1100
1. 《机器学习实战》K近邻(KNN)分类 2. 《机器学习实战》决策树 \quad对于朴素贝叶斯理论分析可看朴素贝叶斯法及其R实现 ，对于这篇的R实现，只是在这种特殊情况，对于一般的情况并没有实现，所以，本篇文章使用python实现朴素贝叶斯分类的一般方法，并对垃圾邮件进行分类。##word list vector function def loadDataSet(): posti
NaiveBayes-参数求解
此心安处是吾乡
03-15 902
knitr::opts_chunk$set(echo = TRUE)   朴素贝叶斯直观上倒是很容易理解，无非就是求后验概率最大化，但是损失函数、参数求解都是一知半解。本文以离散型朴素贝叶斯为例，做一些简单的探讨。 前置知识   主要是概率论的一些知识： 条件概率 P(A|B)=P(AB)P(B)P(A|B)=P(AB)P(B) P\left( {A|B} \right)...
朴素贝叶斯
apple1414的博客
11-06 1557
1. 引言 贝叶斯方法是一个历史悠久，有着坚实的理论基础的方法，同时处理很多问题时直接而又高效，很多高级自然语言处理模型也可以从它演化而来。因此，学习贝叶斯方法，是研究自然语言处理问题的一个非常好的切入口。 2. 贝叶斯公式 贝叶斯公式就一行： P(Y|X)=P(X|Y)P(Y)P(X)P(Y|X)=P(X|Y)P(Y)P(X) 而它其实是由以下的联合概率公式推导出来： P(Y,...
机器学习(8)--朴素贝叶斯算法
Ona_Soton的博客
09-24 465
学习过程： 1、概率基础 2、朴素贝叶斯介绍 概率： 2的应该是(联合概率) 4/7 * 3/7 = 12/49 4的应该是(条件概率) P(产品，超重｜喜欢) = P(产品｜喜欢)P(超重｜喜欢) = 1/8 联合概率和条件概率 联合概率：包含多个条件，且所有条件同时成立的概率 记作：P(A,B) 条件概率：就是事件A在另外一个事件B已经发生条件下的发生概率 记作：P(A|B) 特性：P(A1,A2|B) = P(A1|B)P(A2|B) ...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值