naive bayes注意的一个点

最新推荐文章于 2024-09-12 07:41:03 发布
原创 最新推荐文章于 2024-09-12 07:41:03 发布 · 383 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文深入探讨了Bayes分类器的基本原理，包括Bayes公式的应用与转化，以及如何利用条件独立假设将联合分布简化为单独的条件分布。讨论了先验概率的设定及其与真实分布的一致性问题，提出通过交叉验证来优化先验分布的方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

P(A_{i}|B) = \frac{P(B|A_{i})*P(A_{i})}{P(B)}

bayes公式如上

bayes分类器的本质实际是对P(A_{i}|B)不好直接计算，转化为与P(B|A_{i})的逆向条件概率，其中有一个重要的假设B中每个元素条件独立，这样，就可以讲P(B|A_{i})的联合分布变成一个个P(B_{j}|A_{i})单独的条件分布。对于给定的traindata，所有的P(A_{i})，P(B_{j}|A_{i})都是可以统计出来的，P(B)则是一个常量，不起作用。

当traindata训练好之后，有一个问题。就是先验概率是否满足客观规律呢？？？traindata中的P(A_{i})是不是和实际生活中P(A_{i})一致？？？traindata的分布是不是真实分布？？？不得而知！

 

对于先验概率P(A_{i})，当我们不知道真实分布的样子时，最直观的假设就是所有A_{i}均匀分布（此时所有P(A_{i})也完全相同），分类结果变成了P(A_{i}|B)\oe \prod P(B_{j}|A_{i})，和似然概率成正比！

当traindata中A_{i}分布和真实A_{i}分布的可信度足够高时，P(A_{i})取traindata中的数值！

直接取所有A_{i}均匀分布，很有可能和真实分布不符合，

所以我们应该在test和valid数据集交叉验证中获取到最好的先验分布，先验概率其实就是个超参数

 

naive_bayes（简单贝叶斯）
05-19
机器学习 算法当中的贝叶斯分类算法，采用python语言编写
朴素贝叶斯(Naive Bayes)
LeeXiaoyao00的博客
12-17 1354
学习目标： 掌握贝叶斯公式 结合两个实例了解贝朴素叶斯的参数估计 掌握贝叶斯估计 学习内容： 1.2 朴素贝叶斯的介绍 朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分类效率。NB模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。当年的垃圾邮件分类都是基于朴素贝叶斯分类器识别的。 什么是条件概率，我们从一个摸球的例子来理解。我们有两个桶：灰色桶和
Naive Bayes
E.G的专栏
03-12 675
Wiki: http://en.wikipedia.org/wiki/Naive_bayes   Algorithm From Christopher D. Mannings Information Retrieval  TRAINBERNOULLINB(C,D)1 V ← EXTRACTVOCABULARY(D)2 N ← COUNTDOCS(D)3 for each
Naive Bayes Classifier_NavieBayes_naivebayes_
09-29
**朴素贝叶斯分类器（Naive Bayes Classifier）** 朴素贝叶斯分类器是一种基于概率理论的机器学习算法，其核心思想是利用贝叶斯定理进行预测。该算法假设特征之间相互独立，这也是“朴素”一词的由来。尽管在现实...
naive-bayes:Naive Bayes基本实现以及分布式实现
06-27
Naive Bayes的基本实现以及分布式实现 基于Java实现。 项目内容 项目简介 项目起因 本项目主要实现大规模文本分类，提供快速高效的情感分析框架。 项目框架 simple： 单线程、单机器的Navie Bayes算法的实现。 ...
NaiveBayes算法
05-18
NaiveBayes算法
NaiveBayes-AdaBoost:NaiveBayes 和 AdaBoost 实现
07-03
NaiveBayes-AdaBoost NaiveBayes 和 AdaBoost 实现 我在我的分类框架中实现了两种算法。 NaiveBayes 和 Adaboost（作为 NaiveBayes 的扩展）。 朴素贝叶斯方法是一组基于应用贝叶斯定理和每对特征之间独立性的...
ApMl.rar_CRAWL_classify Bayes_naive bayes_naive bayes for web
09-22
ApMl provides users with the ability to crawl the web and download pages to their computer in a directory structure suitable for a Machine Learning ... Classification Algorithms include Naive Bayes, KNN
​​​​​​​【机器学习】朴素贝叶斯（Naive Bayes）
蓝色蛋黄包的博客
01-13 9344
1. 概述 贝叶斯分类算法是统计学的一种概率分类方法，朴素贝叶斯分类是贝叶斯分类中最简单的一种。 分类原理：利用贝叶斯公式根据某特征的先验概率计算出其后验概率，然后选择具有最大后验概率的类作为该特征所属的类。 之所以称之为”朴素”，是因为贝叶斯分类只做最原始、最简单的假设：所有的特征之间是统计独立的。 相关概念： （1）条件概率 条件概率(Condittional probability)，就是指在事件B发生的情况下，事件A发生的概率，用P(A|B)来表示。 表达如下： （2）...
naive bayes
fish0058的专栏
12-09 564
Machine Learning (1) Naive Bayes
Amy
08-21 1234
最近在看Udacity上关于Machine Learning的初级课程，学习并记录一下相关的知识点。1.1 Naive Bayes第一部分讲了朴素贝叶斯的基本原理，以及如何使用Python sklearn建立朴素贝叶斯分类器。下面的介绍主要来自sklearn上关于朴素贝叶斯分类方法的介绍 http://scikit-learn.org/stable/modules/naive_bayes.html
sklearn(十九)：Naive Bayes
u014765410的博客
10-06 1207
朴素贝叶斯的实施 基于一种假设：所有特征都是相对独立的，互不相关。这种假设同时也减轻了the curse of dimentionality的影响，具体公式如下： 在sklearn中，不同的朴素贝叶斯classifier的不同之处在于，他们对于P(x|y) distribution的假设不同。 尽管朴素贝叶斯是一个好的分类器，但是，他是一个坏的estimator，因此sklearn中朴素贝叶斯的...
朴素贝叶斯 (Naive Bayes)
最新发布
m0_60388871的博客
09-12 1378
朴素贝叶斯算法尽管假设特征独立，但在许多实际应用中表现良好。其简洁、有效的特性在文本分类、垃圾邮件过滤和推荐系统等多个领域中得到广泛应用。
机器学习算法--朴素贝叶斯(Naive Bayes)
python收藏家的博客
03-22 1832
机器学习算法--朴素贝叶斯
阿里云天池机器学习训练营(Day4,Day5):机器学习算法（二）: 朴素贝叶斯(Naive Bayes)
weixin_43332727的博客
12-18 476
机器学习算法（二）: 朴素贝叶斯(Naive Bayes) 1. 实验室介绍 1.1 实验环境 1. python3.7 2. numpy >= '1.16.4' 3. sklearn >= '0.23.1' 1.2 朴素贝叶斯的介绍  朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分类效率。NB模型所需估计的参数很少，对缺失数据不太敏感，算
C++实现Naive Bayes算法实例教程
而“NaiveBayes（版本1）”则可能表示代码的版本号，指向实际的C++实现源文件。 为了能够有效实现Naive Bayes分类器，C++程序员需要熟练掌握C++语言的高级特性，包括模板编程、STL容器和算法、以及C++11/14/17等新...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值