极大似然数学推导
抛硬币
在掷硬币实验中估计出现正面向上的概率
θ
\theta
θ
极大似然估计
x
i
=
{
1
，
正
0
，
负
其
中
x
i
服
从
二
项
分
布
B
(
1
,
θ
)
x_i = \left\{ \begin{matrix} 1，正\\ 0，负 \end{matrix} \right. 其中x_i服从二项分布B(1,\theta)
xi={1，正0，负其中xi服从二项分布B(1,θ)
概率函数
P
(
X
=
x
)
=
θ
x
(
1
−
θ
)
(
1
−
x
)
P(X=x)={\theta^x{(1-\theta)}^{(1-x)}}
P(X=x)=θx(1−θ)(1−x)
似然函数
L
(
θ
)
=
P
(
X
=
x
1
∣
θ
)
.
.
.
P
(
X
=
x
n
∣
θ
)
=
∏
i
=
1
n
θ
x
i
(
1
−
θ
)
(
1
−
x
i
)
L(\theta)=P(X=x_1|\theta)...P(X=x_n|\theta)=\prod_{i=1}^n{\theta^{x_i}(1-\theta)^{(1-x_i)}}
L(θ)=P(X=x1∣θ)...P(X=xn∣θ)=i=1∏nθxi(1−θ)(1−xi)
对以上的似然函数求最大化，得
所以最终
θ
\theta
θ的估计值为
θ
^
=
∑
i
=
1
n
x
i
n
\hat{\theta} = \frac{\sum_{i=1}^nx_i}{n}
θ^=n∑i=1nxi
总结
当一系列事实给定后，我们可以通过已经得知的事情发生情况去反推隐含的参数，使得在使用这些参数的情况下，事情按事实发生的概率最大
参考内容
- 深度之眼统计机器学习网课
- 统计机器学习，李航老师版
扫一扫
39万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
