（一）朴素贝叶斯学习（2）- binary feature

最新推荐文章于 2025-03-01 09:46:30 发布
原创 最新推荐文章于 2025-03-01 09:46:30 发布 · 1.4k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#machine learning

本文介绍了朴素贝叶斯学习中的二值特征处理，包括最大似然估计、数值溢出问题的解决、特征选择以及最大后验概率（MAP）估计。在MAP估计中，通过贝叶斯公式结合先验知识改进估计结果，并以美国总统选举的统计为例进行解释。此外，讨论了在非二值特征和多类问题中的应用。

（一）公式理解- 最大似然

假设各个数据 X1, X2, .... Xn 为iiD,  且其 PDF 为 , 

所以似然函数的定义为：

极大似然估计即 使得最大的那个

下面是似然的一些实例， 自己推导下，让思路后续更清晰（课用PPT, 后续可下载）







（二）公式理解-朴素贝叶斯


（三） 算法实现 


（四）c++ 代码实现

因为是二值的特征，因此实现起来比较容易， 主要即为train 的过程与 predict 的过程

最低0.47元/天 解锁文章
人脸特征点提取详解
妖米的博客
03-21 6558
前言 开先河之作，是1992年Cootes提出的ASM模型。ASM方法从局部的特征来检测点，对噪声很敏感。1998年Cootes提出改进都AAM，但对于初始化和appearance的改变很敏感。两者都使用了shape model（PCA），它的缺点是模型不够灵活，不能实现细微调整（如主成分维度不变）。 更多总结： 人脸关键点检测总结 CVPR2012上有一篇非常有名的特征点定位，提出了非参数的形状约束，使用了two level cascaded regression和shape indexed featur
朴素贝叶斯-简单代码案例实现（垃圾邮箱、文本分类）
hxl
08-24 1094
适合简单的文本分析（垃圾邮箱分类案例） #读取文件 import pandas as pd df = pd.read_csv("data/spam.csv",encoding='latin') df.head() df.drop(columns={'Unnamed: 2','Unnamed: 3','Unnamed: 4'},inplace=True) #重命名数据中的v1,v2 df.rename(columns={'v1':'label','v2':'text'},inplace=True) df.
BRIEF Binary Robust Independent Elementary Features
11-28
这是图像特征提取的重要论文。关于描述子生成。还有FAST特征点以及ORB特征点提取的文章。
DBoW2分析整理（理论部分）
坚果
04-16 1567
DBoW2分析整理（理论部分）1. 简介2. 二值特征（binary feature）3. 建立Vocabulary tree/图像数据的建立4. 利用Vocabulary tree计算图像相似度4.1 TF-IDF4.2 在线更新字典树4.3 计算图像的相似度5 闭环检测算法/数据库查询A. Database的访问6 参...
机器学习与数据挖掘--朴素贝叶斯
Time Will Tell
03-23 431
前期知识 先验概率与后验概率 由以往的数据分析得到的概率，叫做先验概率（经验） 在得到信息之后加以重新修正的概率叫做后验概率 后验概率属于条件概率的一种 朴素贝叶斯 朴素贝叶斯是贝叶斯分类里面最简单的一种 为什么叫朴素贝叶斯，朴素在哪里？ 假设所有的特征之间是统计独立的 朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设来学习输入输出的联合概率分...
LBF特征
zhou894509的专栏
01-20 8274
LBF(Local binary feature),基于局部二值特征的人脸特征点递给我，该算法的核心工作主要有两部分，总体上采用了随机森林和全局线性回归相结合的方法，相对于使用卷积神经的深度学习方法，LBF采用的算法是传统的机器学习方法。
sklearn中的朴素贝叶斯
momokofly的博客
02-04 4847
python朴素贝叶斯调参_中文新闻分类，逻辑回归大战朴素贝叶斯
weixin_39979948的博客
12-13 1698
1 问题背景我们有一堆新闻文本数据，包含“新闻类别”、“新闻内容”两列，希望建立一个模型，来预测新闻内容属于哪个类别。这是一个文本分类问题，朴素贝叶斯和逻辑回归可以说是文本分类最常用的Baseline模型，今天小树带大家来看看，朴素贝叶斯和逻辑回归效果如何以及它们两个究竟谁更厉害。操作环境：jupyter notebook + python3预备知识：中文分词、tf-idf、朴素贝叶斯模型、逻辑回...
Python小案例：朴素贝叶斯分类器
zzjlhlcd的博客
10-27 2377
分为C=0的概率：P(F1=1, F2=1|C=0) = P(C=0)*P(F1=1|C=0)*P(F2=1|C=0) = 3/8 * (0+1)/(3+2) * (1+1)/(3+2) = 3/8 * 1/5 * 2/5 = 0.03。分为C=1的概率：P(F1=1, F2=1|C=1) = P(C=1)*P(F1=1|C=1)*P(F2=1|C=1) = 5/8 * (3+1)/(5+2) * (3+1)/(5+2) = 5/8 * 4/7 * 4/7 = 0.20。而二者的分母是一模一样的。
立体匹配 -- GC-Net网络结构分析
weixin_41405284的博客
10-30 6034
参考 GC-Net pytorch版本 首先看代码要对应着网络结构图和网络层的表格。 一.Unary Features 特征提取 1.使用2-D卷积提取深度特征。首先使用fiter size:5*5,stride:2的conv2d 将输入降维(1/2H,1/2W). imgl0=F.relu(self.bn0(self.conv0(imgLeft))) imgr0=F.relu(self.bn0(self.conv0(imgRight))) self.conv0=nn.Conv2d(3,3.
logsumexp实现
08-14
在使用EM算法训练GMM过程中，使用到的logsumexp函数，顾名思义，是计算log（sum（exp（X）））的函数。
GC-Net 笔记及探讨 --- unary特征以及级联的cost volume （更新中）
flow_specter的博客
03-23 2778
前言 之前读AANet，读patchmatch-net，读pam-net，读各种fancy的net的时候，总是会不停的往前追溯，总会追溯到GC-net，借鉴到GC-net的思想。因此，决定精读GC-Net，并做以下笔记。 论文结构 近几年总说的cost volume，其实就来源于这篇GC-Net。 在看网络结构之前，先看看看论文结构吧。 Introduction Related Work Learning End-to-end Disparity Regression 3.1 Unary Features
人脸对齐之LBF(Local Binary Features)
年轻即出发，
12-11 1万+
基于LBF方法的人脸对齐，出自Face Alignment at3000 FPS via Regressing Local Binary Features，由于该方法提取的是局部二值特征（LBF），所以特征提取这个过程速度非常快，导致整个的算法都速快相当快，论文作者的LBF fast达到了3000fps的速度，网上热心网友分享的程序也达到了近300fps的速度，绝对是人脸对齐方面速度最快的一种算法...
算法-二值贝叶斯滤波器概率更新
weixin_40826634的博客
03-02 1544
1. 应用场景 机器人学中有些问题是二值问题，对于这种二值问题的概率评估问题可以用二值贝叶斯滤波器binary Bayes filter来解决的。比如机器人前方有一个门，机器人想判断这个门是开是关。这个二值状态是固定的，并不会随着测量数据变量的改变而改变。就像门一样，不是开就是关。 2. 公式及推导 二值滤波器的目的是为了求状态xxx的概率，与其置信度是一致的，即置信度越高，概率也越高。置信度与概率的结果可能不一样，置信度可以大于1。 状态xxx可能同时会受到控制数据和测量数据的影响，但是如果状态是静态的，
【漫话机器学习系列】111.指数之和的对数（Log-Sum-Exp）
最新发布
IT古董
03-01 1448
在计算机科学和机器学习中，经常会遇到计算指数和的对数的情况，由于指数函数 的值增长极快，直接计算可能会导致数值上溢（overflow）或下溢（underflow），影响计算的准确性。为了避免这些问题，我们可以使用 Log-Sum-Exp (LSE) 技巧，本篇文章将详细介绍该技巧的原理、推导过程以及实际应用。
OmniMVS拜读：End-to-End Learning for Omnidirectional Stereo Matching
今天写代码了吗
06-20 1210
多相机深度估计
【论文精读】ACVNet: Attention Concatenation Volume for Accurate and Efficient Stereo Matching
YuhsiHu的博客
04-01 5552
ACVNet论文精读
一文弄懂LogSumExp技巧
热门推荐
日积月累，天道酬勤
12-11 1万+
什么是LogSumExp？
pytorch中logsumexp函数的用法
说文科技，做有态度的研究。
03-25 1万+
pytorch中的logsumexp的使用
python伯努利朴素贝叶斯
10-17
Python中的伯努利朴素贝叶斯是一种基于二元特征的朴素贝叶斯分类器。它假设所有特征都是二元的，即每个特征要么出现要么不出现。在伯努利朴素贝叶斯中，每个特征的权重都是相等的，因此该算法适用于文本分类等二元特征较多的场景。 在Python中，可以使用scikit-learn库中的BernoulliNB类来实现伯努利朴素贝叶斯分类器。具体使用方法可以参考以下代码： ```python from sklearn.naive_bayes import BernoulliNB from sklearn.feature_extraction.text import CountVectorizer # 构建训练数据和标签 train_data = ['I love Python', 'Python is a great language', 'Java is a popular language'] train_labels = ['positive', 'positive', 'negative'] # 将文本转换为特征向量 vectorizer = CountVectorizer(binary=True) train_vectors = vectorizer.fit_transform(train_data) # 训练伯努利朴素贝叶斯分类器 clf = BernoulliNB() clf.fit(train_vectors, train_labels) # 预测新数据的标签 test_data = ['I hate Java'] test_vectors = vectorizer.transform(test_data) predicted_labels = clf.predict(test_vectors) print(predicted_labels) # 输出['negative'] ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值