【复旦邱锡鹏教授《神经网络与深度学习公开课》笔记】概率

基本概念
  • 概率:一个随机事件发生的可能性大小,为0到1之间的实数
  • 随机变量:建立在随机事件上的变量,一个随机事件可以有多个随机变量
  • 概率分布:一个随机变量 X X X取每种可能值的概率, 概率分布需要满足下列条件:
    P ( X = x i ) = p ( x i ) , ∀ i ∈ { 1 , . . . , n } ∑ i = 1 n p ( x i ) = 1 , p ( x i ) ≥ 0 , ∀ ∈ { 1 , . . . , n } \begin{aligned} &P(X=x_i)=p(x_i),&\forall{i}\in\{1,...,n\}\\ &\sum_{i=1}^{n}p(x_i)=1,\\ &p(x_i)\geq0,&\forall\in\{1,...,n\} \end{aligned} P(X=xi)=p(xi),i=1np(xi)=1,p(xi)0,i{ 1,...,n}{ 1,...,n}
    其中, P P P表示概率, p p p表示随机变量 x x x取具体值时的概率
    通俗解释:所有随机变量发生的概率和为1,每种随机变量发生的概率总是大于等于0
随机变量

根据随机变量取值类型不同,可以分为两类:离散型随机变量连续随机变量

离散型随机变量

典型的离散型随机变量分布有:

  • 伯努利分布(Bernoulli Distribution)
  • 二项分布(Binomial Distribution)
伯努利分布(Bernoulli Distribution)

再一次实验中(一次伯努利分布,即只会发生一次事件),假设事件A出现概率为 μ \mu μ,不出现的概率为 1 − μ 1-\mu 1μ,用变量 X X X表示事件A出现的次数,则 X ∈ { 0 , 1 } X\in\{0, 1\} X{ 0,1},其相应分布为
p ( x = 1 ) = μ , p ( x = 0 ) = 1 − μ \begin{aligned} &p(x=1)=\mu,\\ &p(x=0)=1-\mu \end{aligned} p(x=1)=μ,p(x=0)=1μ
也即
p ( x ) = μ x ( 1 − μ ) ( 1 − x ) p(x)=\mu^x(1-\mu)^{(1-x)} p(x)=μx(1μ)(1x)

二项分布(Binomial Distribution)

在n次伯努利分布中,若以变量 X X X表示事件A出现的次数,则 X ∈ { 0 , . . . , n } X\in\{0,...,n\} X{ 0,...,n},其相应分布为
P ( X = k ) = ( n k ) μ k ( 1 − μ ) n − k , k = 1 , . . . , n \begin{aligned} &P(X=k)=\begin{pmatrix} n\\k \end{pmatrix} \mu^k(1-\mu)^{n-k}, &k=1,...,n \end{aligned} P(X=k)=(nk)μk(1μ)nk,k=1,...,n
其中, k k k表示事件A发生k次, ( n k ) \begin{pmatrix}n\\k\end{pmatrix} (nk)是组合数,表示从n个不同的元素中取出k个元素的所有组合的个数1(n次实验中有k次为事件A的有多少种组合),即 C n k = n ! k ! ( n − k ) ! C_n^k=\frac{n!}{k!(n-k)!} Cn<

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Don't move

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值