贝叶斯分析:抛硬币的概率真的是1/2吗

从抛硬币试验看概率论的基本内容及统计方法 这篇文章以抛硬币试验为引子引出了一系列现代数学中概率的基本模型、定理及基本的估计及显著性检验方法。写这篇文章是我无聊抛硬币时一时兴起,其中对很多东西只是给出一个轮廓,没有处处给出严格的定义和证明,不过大约说明了常用的一些统计方法及其理论基础,限于篇幅不能面面俱到,例如一个假设检验如果展开写可以单独写一篇文章。目前随着大数据概念的热炒,基于互联网的数据挖掘和机器学习也变得火热,其实很多数据挖掘和机器学习都是基于概率和统计理论的,很多方法甚至只是传统统计方法的应用。 阅读详情

前言

前面两文介绍了贝叶斯学派的思想和先验分布、后验分布的相关知识,古典频率学派认为抛硬币的概率是常数,本文从贝叶斯学派的角度看待抛硬币的概率问题。本文详细介绍了 β分布,重述贝叶斯思想,对于抛硬币的概率问题作各种情况的分析,最后总结本文。

目录


1、为什么选择β分布作为先验分布

2、重述贝叶斯思想

3、抛硬币问题的多情况分析

4、总结

 

                                                                                1、为什么选择β分布作为先验分布


本节详细介绍β分布的定义及解释选择β分布作为先验分布的原因。

1、β分布

β函数的定义:

               

其中α,β > 0,对等式两边各除以B(α,β),字母p代替x,得:

 

选积分项作为β分布函数,由积分项可知β分布已完成标准化(总积分等于1)。

因此,β分布:

 

β分布的期望和方差:

2、β分布作为先验分布的原因

由β分布定义可知,β分布是概率分布的分布,β分布常作为先验分布的原因:

(1)、贝叶斯对参数的估计与先验分布的选择有很重要的关系,先验分布不同,贝叶斯对参数的估计也不同。先验分布往往是人们根据以往经验去设计,β分布是概率分布的分布,涵盖了所有参数空间出现的概率大小,并通过设置参数α和β,可以使先验分布与你的先验经验基本符合。

i) α=1,β=1

                                                          

由上图可知,α=1,β=1,β分布符合均匀分布,即参数空间所有取值的概率相等。

因此,当你对参数没有任何的先验知识时,建议你假设先验参数符合均匀分布,参数的后验分布由你的实际观测数据决定。

ii) α=10,β=10

                                                             

由上图可知,α=10,β=10时,β分布符合高斯分布,且在概率为0.5取得最大值,由β分布期望和方差的公式可知期望和方差分别等于0.5和0.01。

假设参数的先验分布是高斯分布,设置参数α和β相等(α>1)使β分布成为高斯分布,α越大方差越小。

因此,设置α和β使参数的先验分布符合你对参数的先验认知。

(2)、上节已提到,参数的先验分布是β分布时,则先验分布和后验分布形式一样,且可以形成先验链,方便分析问题。

 

                                                                            2、重述贝叶斯思想


因人而异,因阅历而异

关于频率学派和贝叶斯学派对频率的理解可以参考我前面的文章《浅谈频率学派和贝叶斯学派》。

贝叶斯思想是量化事件发生的不确定性,是主观评价。不同人评价同一事件发生的概率不同,因为不同人的生活经历不同,对某一事件的先验知识很可能不同,比如一个博士生和一个小学生对某一事件的看法可能不同;同一个人对同一事件发生的概率也随着自身阅历的增加而不同,例如某个人做了九件好事,你评估他是好人的概率为0.9,当他做了一件大逆不道的事情后,你评估他是好人的概率降到了0.1。贝叶斯评价事件发生的概率带有主观性,因人而异,因阅历而异。

凡事要讲数据

我们根据自己的阅历对某一事件作一个先验假设,先验假设是否正确需要经过时间的检验,即是否有足够多的观测数据符合先验假设。先验假设和观测数据是影响后验假设的两个因素,若观测数据不符合先验假设,则后验假设在先验假设的基础上开始向观测的数据偏斜,若观测的数据为无穷大时,则先验假设可以忽略不计,直接通过观测数据来估计后验假设。因此,贝叶斯思想评价事件发生概率的准则是凡事要讲数据。

PS:有点绕口,希望大家看完笔者介绍抛硬币的例子,再来悟一悟这几句话,若还有疑问请微信我

 

                                                                           3、抛硬币问题的多情况分析


抛硬币问题的公式说明

由于《浅谈先验分布和后验分布》已经通过例子推导了抛硬币正面向上的后验概率,因此,本文不做推论,具体可参考上篇文章,若有疑问请微信我。本文只引用一些结论性的公式。

假设硬币正面向上的概率为u,正面向上记为1,反面向上记为0。

则硬币正面向上的先验分布如下:

 

硬币正面向上的期望:

 

其中a,b表示虚拟的硬币正面向上的次数和反面向上的次数,根据自己的先验知识来设置a,b值。

 

若后续的观测结果为m次正面向上,l次反面向上,共N次。

则硬币正面向上的后验分布如下:

 

硬币为正面向上的概率:

    

多情况的抛硬币问题

(1)第1次抛硬币为正面向上的概率;

(2)9次硬币正面向上,1次反面向上,第十一次硬币正面向上的概率;

(3)90次硬币正面向上,10次硬币反面向上,求101次正面向上的概率;

(4)900次硬币正面向上,100次硬币反面向上,求第1001次硬币正面向上的概率。

解:

贝叶斯的后验分布受先验分布的影响,不同的先验分布会有不同的后验分布。请参考第一节,假设硬币正面向上的分布符合高斯分布(a=10,b=10),高斯分布符合大部分人的思想,认为硬币为正面向上的概率在0.5达到最大,方差表示先验分布的确定程度,若你坚信硬币向上的概率肯定是0.5,那么可以调大a和b值。

作者就先验分布为高斯分布来解答抛硬币的四个问题。其他先验分布可通过调节a,b的值来实现,后面的计算过程一致。

正面向上的后验概率:

 

a,b,m,l分别表示先验分布的正面向上次数,反面向上次数,已观测数据的正面向上次数,反面向上次数。

先验分布为高斯分布:

(1)由于没有任何观测数据,因此第一次正面向上的分布为先验分布,先验分布在在参数为0.5时,概率最大,即正面向上的概率为0.5。

(2)正面向上的概率为:

 

(3)计算过程与(2)一样,正面向上的概率:0.83

(4)正面向上的概率:0.89

讨论:

频率学派认为硬币向上的概率是0.5,与观测数据无关。贝叶斯学派是通过数据来主观评价硬币向上的概率,由例子可知,即使先验分布符合高斯分布且正面向上的概率在0.5达到最大,但是如果观测数据倾向于正面向上,则最终的判断结果会倾向于正面向上,贝叶斯思想有点像是风往哪边吹树就往哪边倒的意思。当观测结果的正面向上次数远远大于正面向下次数,也远远大于先验分布的正面向下次数,则判断下次为正面向上的概率无限接近1(若不理解请参考公式)。

 

                                                                                       4、总结


本文首先详细介绍了β分布,通过调节参数a和b使β分布符合假设的先验分布,β分布使后验分布和先验分布为共轭分布,形成先验链,便于分析问题。后面讲的内容是贝叶斯思想,贝叶斯是主观评价事件发生的概率,根据先验知识来假设先验分布,若观测的数据符合先验分布,则后验分布与先验分布类似;若观测的数据不符合先验分布,则后验分布开始向观测数据倾斜,若观测数据为无穷大时,那么前验分布可以忽略不计,最大似然函数估计参数与后验分布估计参数相同,直接可以用最大似然函数来估计参数。

参考:

Christopher M.Bishop <<Pattern Reconition and Machine Learning>>

                                                             

 

机器学习——先验概率、后验概率、全概率公式、贝叶斯公式 先验概率(prior probability)是指根据以往经验和分析得到的概率,如全概率公式,它往往作为"由因求果"问题中的"因"出现的概率。后验概率是指在得到“结果”的信息后重新修正的概率,是“执果寻因”问题中的"果"。贝叶斯公式就是当已知结果,问导致这个结果的第 i 原因的可能性是多少。 阅读详情

相关推荐

【机器学习实验】概率编程及贝叶斯方法

引言贝叶斯方法是天生用来做推断的方法,然而它常隐藏在课本的数学分析的背后。 随着近年来贝叶斯方法在机器学习竞赛中成功应用,其重要性又引起了学习者的兴趣,但是其难点在于贝叶斯数学和概率编程之间的衔接。《Probabilistic Programming and Bayesian Methods for Hackers》一书试图弥补以上的遗憾。 有关概率编程和贝叶斯方法的实验,我将以该在线书籍作为学

Jason Ding的专栏 1万+

抛硬币概率公式 计算机题,抛币概率公式及其求解实例

你可能已经注意到,在板球比赛开始前,要做出一个决定,哪个队先击球或打球。这是怎么做到的?你可以看到,两个队的队长都参加了掷硬币的活动,在掷硬币的过程中,他们各自选择硬币的一面,即头部或尾部。裁判把硬币抛向空中。掷硬币获胜的队伍首先要做出击球或保龄球的决定。这是抛硬币实验最常见的应用之一。你认为为什么要用这种方法?这是因为在掷硬币时获得头部的可能性与获得尾部的可能性一样,即50%。所以当你掷一枚硬币...

weixin_35082950的博客 4657

先验概率、后验概率、全概率公式、贝叶斯公式,最大似然估计

先验概率、后验概率、全概率公式、贝叶斯公式,最大似然估计

xfysq_的博客 4250

【贝叶斯分析②】抛硬币问题

抛硬币问题可能是贝叶斯推断中最基础的一个入门问题,该问题简单来说就是对一枚硬币出现正面朝上的概率θ进行估计。不同于MLE, MAP等估计方法求出的是一个估计值,贝叶斯分析求出的是一个后验分布(用贝叶斯公式)。 θ的先验通常选用beta分布,n次观测正面朝上次数y的似然则可以用参数为n和θ二项分布来描述。用数学表达式描述如下θ ~ Beta(α, β),y~ Bin(n, p = θ). 这里顺...

qq_32464407的博客 6276

21、概率模型的贝叶斯方法:抛硬币示例详解

本文通过抛硬币这一简单示例,深入讲解了贝叶斯方法在概率模型中的应用。对比传统最大似然法,贝叶斯方法不仅估计参数,还通过先验与后验分布刻画参数的不确定性,尤其适用于小样本场景。文章详细推导了离散近似与连续解析两种求解方式,并探讨了先验选择对结果的影响,强调贝叶斯方法在避免假阳性、正则化建模中的优势,最后总结了贝叶斯与非贝叶斯方法的核心差异及适用场景。

f0g1h2的博客 297

机器学习:【抛掷硬币的贝叶斯后验概率】

首先,抛硬币的问题通常涉及先验概率、似然函数和后验概率。假设用户可能想通过观察一系列的正面(H)和反面(T)来更新硬币的偏差概率。例如,先验可能假设硬币是均匀的,但随着观察到更多数据,用贝叶斯定理计算后验分布。通常,硬币的偏差可以用Beta分布作为先验,因为它是二项分布的共轭先验。Beta分布有两个参数α和β,初始时可能设为1,对应均匀分布。每次观察到正面或反面,更新α和β参数。那具体步骤可能是这样的:定义先验分布(Beta(1,1)),然后根据观察的数据,更新α和β。

qq_40753021的博客 774

初学贝叶斯论

抛开统计学习不谈,贝叶斯思想是对生活也很有指导意义,毕竟我们总是不断利用先验(过往的经验)和观测到现象(x)做出决策(试图得到后验概率)。以抛硬币为例,假如有人告诉我们所抛硬币正面朝上的概率p1=0.7,反面朝上的概率p2=0.3。通过假设特征之间相互独立,我们可以将整个特征空间拆解为单个特征的概率估计,每个特征的取值数量相对较少,这样可以避免统计上的稀疏性问题,使得概率估计更加可靠和准确。:假设特征之间相互独立,意味着每个特征对于类别的影响是独立的,不受其他特征的影响。

weixin_57128596的博客 1406

华中科技大学计算机组成原理-单总线CPU设计(全部通关)

【计算机组成原理】 单总线CPU实验 华中科技大学-计算机组成原理 实验三 单总线CPU设计 第1关 MIPS指令译码器设计 第2关 单总线CPU微程序入口查找逻辑 第3关 单总线CPU微程序条件判别测试逻辑 第4关 单总线CPU微程序控制器设计 第5关 采用微程序的单总线CPU设计 第6关 现代时序硬布线控制器状态机设计 第7关 现代时序硬布线控制器设计

紫荆鱼的博客 4万+

用贝叶斯来看看抛硬币的概率

前面介绍了贝叶斯学派的思想和先验分布、后验分布的相关知识,古典频率学派认为抛硬币的概率是常数,本文从贝叶斯学派的角度看待抛硬币的概率问题。本文详细介绍了分布,重述贝叶斯思想,对于抛硬币的概率问题作各种情况的分析,最后总结全文。 目录 为什么选择分布作为先验分布 重述贝叶斯思想 抛硬币问题的多情况分析 总结 1.为什么选择分布作为先验分布 本节详细介绍分布的定义及解释选择...

hellozhxy的博客 3500

用Verilog搭出RISC-V架构单周期CPU

这是笔者学校暑期学期的必修课,难度并不高(仅追求及格的话),但相当耗时,对于在硬件设计方面完全不感冒的同学更是一场避不开的折磨,所以笔者想通过自己的成果和被折磨经验来帮助有此方面需求的同学,或是对于CPU设计有浓厚兴趣的人。

paticita的博客 1万+

CSP-J 初赛模拟卷1 题解

只有一棵子树有后继,其他的都是叶结点才能保证树的深度最大,此时还剩(n-5)个结点,最后加上2,得到(n-3),即为答案。题解:先修改p的指针域,让它的左指针域指向q,然后再让q的右指针域赋值给p的右指针域,再然后修改q的右指针域使其指向p,最后需要改变的指针域就是原先q结点的后继节点的左指针域内容。设n个元素的入栈序列是1,2,3,...,n,出栈序列为p1,p2,...,pn,若p1=n,则pi(1≤i≤n)的值为(1)输入的三个数中,第二个数应是[0,11]上的整数,否则会出现数组越界的问题。

Sat77GryHp_Pro的博客 2805

贝叶斯公式设b_用贝叶斯来看看抛硬币的概率

前面介绍了贝叶斯学派的思想和先验分布、后验分布的相关知识,古典频率学派认为抛硬币的概率是常数,本文从贝叶斯学派的角度看待抛硬币的概率问题。本文详细介绍了 分布,重述贝叶斯思想,对于抛硬币的概率问题作各种情况的分析,最后总结全文。目录为什么选择 分布作为先验分布重述贝叶斯思想抛硬币问题的多情况分析总结1.为什么选择 分布作为先验分布本节详细介绍 分布的定义及解释选择 分布作为先验分布的原因...

weixin_36339234的博客 873

ardupilot 为什么要采样四元数姿态控制

本节主要说明清楚ardupilot姿态控制为什么要用到四元数,欢迎批评指正!!!

陌城烟雨 1119

贝叶斯定理推导硬币正面概率θ的后验分布 计算示例

通过贝叶斯定理推导硬币正面概率θ的后验分布,给出了详细计算步骤:1. 先验分布π(θ);2. 似然函数L(θ∣X);3. 后验分布π(θ∣X);4. 归一化分母(边际似然);5. 完整后验分布。并对结果进行了解释。

彬彬侠的博客 1849

如何利用gretna软件计算脑网络全局属性(聚类系数,小世界属性,最短路径),局部属性指标(度,度分布,节点效率),如何理解网络稀疏度

grena工具箱被设计用于fMRI数据的图论网络分析。它是一套MATLAB函数和基于MATLAB的接口,用于常规的fMRI预处理,用于计算和统计分析最常用的网络指标,如小世界参数、效率、度、间性、关联性、层级性、同步性和模块化。......

从事脑科学核磁共振方法学研究,在Nature communications等权威期刊发表研究论文,熟练掌握磁共振处理方法和统计学方法,欢迎大家和我交流。 9176

新能源汽车整车控制器(VCU)深度全解:硬件原理、工作流程、接口设计与高压安全实战

整车控制器(VCU,Vehicle Control Unit)是新能源纯电动、混动汽车的核心决策大脑,相当于汽车的“中枢神经系统”。它不直接驱动电机,却统筹电机控制器(MCU)、电池管理系统(BMS)、充电机(OBC)、DC/DC、空调、热管理、底盘等全部部件,负责驾驶意图解析、动力输出控制、高压上下电管理、故障安全保护、能量优化等关键任务。VCU所有设计均围绕车规级环境适应性、功能安全(ISO 26262)、实时性、高压安全性四大核心目标,与通用控制器完全不同。

优快云-新能源汽车研发测试专业博主 2493

贝叶斯估计、最大似然估计、最大后验概率估计

1.背景知识 1.1 概率与统计 概率论是集中研究概率及随机现象的数学分支,是研究随机性或不确定性等现象的数学。统计学是在数据分析的基础上,研究如何测定、收集、整理、归纳和分析反映数据,以便给出正确消息的科学。 概率论是在给定条件(已知模型和参数)下,对要发生的事件(新输入数据)的预测。统计推断是在给定数据(训练数据)下,对数据生成方式(模型和参数)的归纳总结。概率论是统计学的数学基础,统计学是对概率论的应用。 1.2 联合概率和边缘概率 假设有随机变量和,此时用于表示且同时发生的概率。这类.

sky的博客 9504

YOLO26改进 - 注意力机制 | MLLAttention (Mamba-Like Linear Attention) 类Mamba线性注意力:动态感受野适配多尺度目标

本文介绍了Mamba-Like Linear Attention (MLLA)模型及其在yolo26中的集成。MLLA结合了Mamba和线性注意力Transformer的优点,线性注意力降低计算复杂度,Mamba有效建模序列。该模型将Mamba的遗忘门和块设计等关键元素与线性注意力结合,还可用位置编码替代遗忘门。我们将MLLA引入yolo26,在检测头的不同尺度特征图上应用。实验表明,改进后的yolo26在目标检测任务中表现良好,体现了MLLA在提升模型性能上的有效性。

魔改工程师的博客 1151

先验概率 / 后验概率 / 条件概率 / 全概率公式 / 贝叶斯公式

先验概率 / 后验概率 / 条件概率 / 全概率公式 / 贝叶斯公式

学习 & 分享 ~ 2296

大模型的应用与微调:如何调用 LLM?从 OpenAI API 到本地部署

本篇文章介绍了如何调用 OpenAI、DeepSeek、Manus、通义千问等大模型 API,并探讨了 LLM 本地部署的方法。在实际应用中,可以根据需求选择云端 API 或本地化部署方案,以满足不同的计算需求和隐私要求。下一篇:大模型微调与 RAG 技术(LoRA、QLoRA、向量数据库)

晴天彩虹雨的博客 1157

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

贝叶斯分析——分布之分布(beta分布)

参考:http://blog.sciencenet.cn/blog-677221-1049350.html 贝叶斯与逆概率问题 对于“白球黑球”的概率问题。概率问题可以正向计算,也能反推回去。 (1)盒子里有10个球,黑白两种颜色,如果我们知道10个球中5白5黑,那么,从中随机取出一个球,这个球是黑球的概率是多大? (2)假设我们预先并不知道盒子里黑球白球数目的比例,只知道总共是10个球,...

ftfy123的博客 8993

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

对贝叶斯公式的简单理解

频率派与贝叶斯派 首先要知道,对概率的不同解读区分了频率派和贝叶斯派。 什么是概率呢?简单来说,概率指的是事件发生的可能性。比如抛一枚硬币,如果有人问你 硬币最终正面向上的概率是多少?你可能脱口而出 P = 1/2。那么我要问你了,这个 1/2 你是怎么得来的?你可能会说这是客观既定的一个事情,因为如果将抛硬币这件事情重复进行多次,那么在所有结果中正面朝上的概率将趋近于 1/2。 也就是说,1/...

ckk727的博客 3811

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

【实例讲解】贝叶斯推理原理

今天看论文的时候,看到了贝叶斯推理,搜索的时候,正巧搜到了一个大牛的博客,博客中对于贝叶斯推理的进阶实例讲解,真的是非常精彩,这里将自己对贝叶斯推理的收获记录下来。如有理解错误的地方,欢迎指正共同讨论~ 为了一点基础也没有的同学观看方便,这里先介绍一些基本概念 先验概率与后验概率 1、先验概率 定义:直观理解,所谓“先”,就是在事情之前,即在事情发生之前事情发生的概率。是根据以往经验和分析得到的...

Sp4rkW的博客 7879

贝叶斯统计bayes statistics

1,贝叶斯统计的关键特点:人们根据新的观测改变了对一个事件发生概率的信念(belief) 举例: 假设某天太阳没有升起,那么你很有可能觉得第二天太阳也不会升起。但如果第二天太阳又正常升起了,你对太阳会再次罢工的概率预期也会比之前高很多。这就是基于对事件的观测改变了自己对事件发生概率的信念。 大体的过程是:前期我们认为的一个事件发生的概率(先验概率,事件还未发生)-》新的观测-》我们更新了自己...

Hello Word! 7857

(2)读<Bayesian Analysis with Python 3rd>Python上的贝叶斯分析,一次概率建模的实践指导。

接上文没有读完的第一章内容上一部分在讲概率的一些基础知识内容,而今天这一部分正式进入贝叶斯的部分。

weixin_60302467的博客 1055
上一篇: 浅谈先验分布和后验分布
下一篇: 非参数正态性检验
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值