统计学习-朴素贝叶斯算法（Naive Bayes）

最新推荐文章于 2025-01-03 22:51:41 发布
最新推荐文章于 2025-01-03 22:51:41 发布
阅读量368 收藏
点赞数
分类专栏： 机器学习 文章标签： 朴素贝叶斯 条件概率、先验概率 生成模型 非线性分类 后验概率
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/heda3/article/details/100834504
版权

关联文章：

统计学习--最大似然和贝叶斯估计的联系

解决问题

监督学习模型，属于生成模型，非线性

基于条件独立假设条件

描述：

对于给定的训练数据集，基于特征条件独立假设学习联合概率分布，其次基于此模型对新的输入x，利用贝叶斯定理求出后验概率最大的输出y（类别）

模型：

策略：

算法

公式解

条件独立假设：

贝叶斯定理：

了解本专栏 订阅专栏 解锁全文 超级会员免费看
python朴素贝叶斯（Naive Bayes）算法，机器算法
05-22
朴素贝叶斯（Naive Bayes）算法是一种基于贝叶斯定理的...此外，朴素贝叶斯算法也可以用于多类别分类问题，并且在处理文本数据时，通常会使用多项式朴素贝叶斯或伯努利朴素贝叶斯，这些变体适用于不同类型的数据分布。
朴素贝叶斯算法（Naïve Bayes）
lili_lak的博客
05-14 1818
朴素贝叶斯（Naïve Bayes, NB）算法，是一种基于贝叶斯定理与特征条件独立假设的分类方法。朴素：特征条件独立；贝叶斯：基于贝叶斯定理。属于监督学习的生成模型，实现简单，并有坚实的数学理论（即贝叶斯定理）作为支撑。在大量样本下会有较好的表现，不适用于输入向量的特征条件有关联的场景。朴素贝叶斯优缺点：优点：在数据较少的情况下仍然有效，可以处理多类别问题缺点：对于输入数据的准备方式较为敏感,由于朴素贝叶斯的“特征条件独立”特点，所以会带来一些准确率上的损失。
统计学习方法（三） 朴素贝叶斯（naive Bayes）上
tangbiubiu的博客
09-27 367
统计学习方法（三） 朴素贝叶斯（naive Bayes） 朴素贝叶斯是一个基于贝叶斯定理与特征条件独立假设的分类方法。 三门问题 不想搞的太枯燥，所以用大名鼎鼎的“三门问题”引入贝叶斯定理（这个问题真是太有意思了）： 三门问题（Monty Hall problem）亦称为蒙提霍尔问题、蒙特霍问题或蒙提霍尔悖论，大致出自美国的电视游戏节目Let’s Make a Deal。问题名字来自该节目的主持人蒙提·霍尔（Monty Hall）。参赛者会看见三扇关闭了的门，其中一扇的后面有一辆汽车，选中后面有车的那扇
机器学习理论与实战（三）朴素贝叶斯
计算机视觉、机器学习朝拜者
07-07 1万+
贝叶斯决策一直很有争议，今年是贝叶斯250周年，历经沉浮，今天它的应用又开始逐渐活跃，有兴趣的可以看看斯坦福Brad Efron大师对其的反思，两篇文章：“Bayes'Theorem in the 21st Century”和“A250-YEAR ARGUMENT:BELIEF, BEHAVIOR, AND THE BOOTSTRAP”。俺就不参合这事了，下面来看看朴素贝叶斯分类器。 有时我
朴素贝叶斯——Naive Bayes原理
稚与的博客
05-06 606
Naive Bayes 简介 朴素贝叶斯分类是一种十分简单的分类算法。 思路 对于给出的待分类项，求解在此项出现的条件下各个类别出现的概率，将该待分类项归于概率最大的类别。 步骤 设x={a1,a2,...,an}x=\{a_1, a_2, ..., a_n\}x={a1​,a2​,...,an​}为一个待分类项，aia_iai​为x的特征属性。 类别集合C={y1,y2,...,yn}...
机器学习笔记：朴素贝叶斯方法（Naive Bayes）原理和实现
热门推荐
JOURNEY的专栏
04-13 11万+
机器学习笔记：朴素贝叶斯方法（Naive Bayes）原理和实现本文主要描述了朴素贝叶斯分类方法，包括模型导出和学习描述。实例部分总结了《machine learning in action》一书中展示的一个该方法用于句子感情色彩分类的程序。 方法概述 学习（参数估计） 实现：朴素贝叶斯下的文本分类 模型概述 朴素贝叶斯方法，是指 朴素：特征条件独立贝叶斯：基于贝叶斯定理 根据贝叶斯定理，对一个分类
机器学习算法: 朴素贝叶斯(Naive Bayes)
gangyikeji的博客
08-12 1292
朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分类效率。NB模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。当年的垃圾邮件分类都是基于朴素贝叶斯分类器识别的。什么是条件概率，我们从一个摸球的例子来理解。我们有两个桶：灰色桶和绿色桶，一共有7个小球，4个蓝色3个紫色，分布如下图：从这7个球中，随机选择1个球是紫色的概率p是多少？先选择桶。
机器学习算法--朴素贝叶斯(Naive Bayes)
python收藏家的博客
03-22 1798
机器学习算法--朴素贝叶斯
AI学习指南机器学习篇-朴素贝叶斯算法（Naive Bayes）简介
俞兆鹏的博客
06-20 1788
人工智能（AI）的发展正日益改变着我们的生活，而机器学习作为AI的重要分支更是受到了广泛关注。在机器学习领域中，朴素贝叶斯算法（Naive Bayes）作为一种简单而有效的分类算法，被广泛应用于各种领域。本文将通过介绍朴素贝叶斯算法的基本概念和其在机器学习中的应用，解释该算法在分类任务中的优势和适用场景。
机器学习基础算法 (七)-朴素贝叶斯（Naive Bayes）
海棠AI实验室
01-03 953
朴素贝叶斯（Naive Bayes）算法是一种基于贝叶斯定理的简单概率分类算法，通常用于文本分类、垃圾邮件过滤、情感分析等任务。尽管其“朴素”之名可能让人觉得它不够复杂，但实际应用中，朴素贝叶斯算法以其高效性和简单性，尤其适用于特征之间条件独立的假设下，表现出色。本文将详细介绍朴素贝叶斯算法的原理、Python 实现、模型评估与调优，并结合一个垃圾邮件分类的实例来展示其应用。朴素贝叶斯是一种非常直观且高效的分类算法，适用于大规模数据集，尤其是在特征之间条件独立的情况下表现尤为优异。
朴素贝叶斯算法(Naive Bayes)
笨拙的石头的博客
05-04 7241
一.相关公式    先验概率P(A):在不考虑任何条件下,根据经验或样本统计给出的事件发生的概率.    条件概率P(B|A):A事件发生的条件下,事件B发生的概率.         后验概率P(A|B):事件B发生后,对事件A的概率的重新评估.    Bayes公式: 贝叶斯公式是由条件概率和全概率公式组成.二.贝叶斯算法    1. 朴素贝叶斯的特征条件独立性假设        朴素贝叶斯认为...
统计学/机器学习入门（三）: 朴素贝叶斯Naïve Bayes及其决策边界，交叉验证
OldDriver1995的博客
03-18 3701
一）理论基础 不做过多介绍，NB（Naïve Bayes) 可用来分类，直接上公式： P(H|E) = P(E|H) * P(H) / P(E) 二）举例说明 直接来个例子比较直观, 现在有这样一堆数据: 我们将通过过去的天气数据来判断 今天是否适合出去玩耍,然后今天的天气是这样: 这就是个很简单的0 1问题，play到底可不可以呢，于是 ...
[机器学习] 分类 --- Naive Bayes（朴素贝叶斯）
weixin_30897233的博客
07-04 987
Naive Bayes-朴素贝叶斯Bayes’ theorem(贝叶斯法则)在概率论和统计学中，Bayes’ theorem（贝叶斯法则）根据事件的先验知识描述事件的概率。贝叶斯法则表达式如下所示P(A|B) – 在事件B下事件A发生的条件概率P(B|A) – 在事件A下事件B发生的条件概率P(A), P(B) – 独立事件A和独立事件B的边缘概率顺便提一下，上式...
深入理解朴素贝叶斯（Naive Bayes）
li8zi8fa的博客
07-27 9万+
朴素贝叶斯是经典的机器学习算法之一，也是为数不多的基于概率论的分类算法。朴素贝叶斯原理简单，也很容易实现，多用于文本分类，比如垃圾邮件过滤。该算法虽然简单，但是由于笔者不常用，总是看过即忘，这是写这篇博文的初衷。当然，更大的动力来在于跟大家交流，有论述不妥的地方欢迎指正。
朴素贝叶斯分类器（Naive Bayes Classifiers）
K.Sun
03-03 5万+
原文地址：Naive Bayes Classifiers 本文讨论的是朴素贝叶斯分类器（ Naive Bayes classifiers）背后的理论以及其的实现。朴素贝叶斯分类器是分类算法集合中基于贝叶斯理论的一种算法。它不是单一存在的，而是一个算法家族，在这个算法家族中它们都有共同的规则。例如每个被分类的特征对与其他的特征对都是相互独立的。开始之前，先看一下数据集。这是一个虚构的数据集，这个
python机器学习库sklearn——朴素贝叶斯分类器
全栈工程师开发手册（原创）https://github.com/tencentmusic/cube-studio
01-04 3万+
全栈工程师开发手册 （作者：栾鹏） python数据挖掘系列教程 文档贝叶斯分类器的相关的知识内容可以参考 http://blog.youkuaiyun.com/luanpeng825485697/article/details/78769233 在scikit-learn中，一共有3个朴素贝叶斯的分类算法类。分别是GaussianNB，MultinomialNB和Bernoulli...
《统计学习方法》+朴素贝叶斯算法+C++代码（简单）实现
IDMer的博客
09-29 1万+
首先，学习朴素贝叶斯算法得了解一些基本知识，比如全概率公式和贝叶斯公式，这些知识随便找一本书或者在网上都能够获得。在此，这里仅关注贝叶斯算法本身，以及其具体的实现（以例4.1的例子为参考）。     朴素贝叶斯算法介绍：     以上是朴素贝叶斯算法的具体描述，下面给出根据例4.1的描述，经过学习数据之后，确定预测数据的类别。具体过程如下：     以上面的数据为例，
Naive Bayes Classifier详解（附带概率论公式推导）
Ἥλιος
07-31 8294
Naive Bayes Classifier详解 第八次写博客，本人数学基础不是太好，如果有幸能得到读者指正，感激不尽，希望能借此机会向大家学习。这一篇的内容来自于各种书籍和网上资料，以及自己的一些见解。 预备知识： 这一部分主要是谈一谈概率论中的相关内容，以及贝叶斯决策论的介绍。 贝叶斯定理（Bayes’ theorem） 　　假设X,YX,YX,Y是一对随机变量，他们...
机器学习算法之朴素贝叶斯（Naive Bayes）--第一篇
踩风火轮的乌龟
04-25 2万+
引言先前曾经看了一篇文章，一个老外程序员写了一些很牛的Shell脚本，包括晚下班自动给老婆发短信啊，自动冲Coffee啊，自动扫描一个DBA发来的邮件啊， 等等。于是我也想用自己所学来做一点有趣的事情。我的想法如下： 首先我写个scrapy脚本来抓取某个网站上的笑话 之后写个Shell脚本每天早上6点自动抓取最新的笑话 然后用朴素贝叶斯模型来判断当前的笑话是否属于成人笑话 如果是成人笑话，用脚本把它
机器学习 --- 朴素贝叶斯分类器第3关：朴素贝叶斯分类算法流程
最新发布
04-02
### 朴素贝叶斯分类器算法流程 朴素贝叶斯分类器的核心在于利用贝叶斯定理计算后验概率，并假设特征之间相互独立。以下是该算法的主要流程： #### 数据准备阶段 1. 收集并整理训练数据集合，确保每条记录都带有明确的类别标签[^1]。 2. 对于连续型变量，通常会将其离散化处理以便后续的概率估计更加简便。 #### 训练模型阶段 3. 针对每一个可能的目标类别 \( C_k \)，统计训练集中属于此类别的样本数量占总样本数的比例，得到先验概率 \( P(C_k) \)。 4. 统计每个属性值条件下各个目标类别的联合分布情况，从而估算条件概率 \( P(x_i|C_k) \) 。这里可以采用极大似然估计法或其他平滑技术来完成这一过程[^3]。 #### 测试预测阶段 5. 当接收到一个新的测试样例时，分别依据上述所学得的知识去评估它归属于不同类别的可能性大小——即求解各 \( P(C_k|x_1,x_2,...,x_n)=P(C_k)\prod_{i=1}^{n}{P(x_i|C_k)}\) 的数值[^5]。 6. 找出使得上式取得最大值得那个特定类别标记作为最终判定结果。 为了提升效率，在某些应用场景下还可以预先计算好所有必要的概率项并将它们保存下来形成所谓的“查找表”，如此一来当面临实时在线请求的时候便可以直接查询而无需重复运算整个推导链条了[^4]。 ```python from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.naive_bayes import GaussianNB # 加载鸢尾花数据集 data = load_iris() X_train, X_test, y_train, y_test = train_test_split(data.data, data.target, test_size=0.5, random_state=0) gnb = GaussianNB() # 使用训练数据拟合高斯朴素贝叶斯模型 y_pred = gnb.fit(X_train, y_train).predict(X_test) print(f"Number of mislabeled points out of a total {X_test.shape[0]} points : {(y_test != y_pred).sum()}") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

heda3

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值