极大似然估计

极大似然估计思想

最大似然估计的目的就是：利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值。

似然与概率

在统计学中，似然函数（likelihood function，通常简写为likelihood，似然）是一个非常重要的内容，在非正式场合似然和概率（Probability）几乎是一对同义词，但是在统计学中似然和概率却是两个不同的概念。概率是在特定环境下某件事情发生的可能性，也就是结果没有产生之前依据环境所对应的参数来预测某件事情发生的可能性，比如抛硬币，抛之前我们不知道最后是哪一面朝上，但是根据硬币的性质我们可以推测任何一面朝上的可能性均为50%，这个概率只有在抛硬币之前才是有意义的，抛完硬币后的结果便是确定的；而似然刚好相反，是在确定的结果下去推测产生这个结果的可能环境（参数），还是抛硬币的例子，假设我们随机抛掷一枚硬币1,000次，结果500次人头朝上，500次数字朝上（实际情况一般不会这么理想，这里只是举个例子），我们很容易判断这是一枚标准的硬币，两面朝上的概率均为50%，这个过程就是我们运用出现的结果来判断这个事情本身的性质（参数），也就是似然。

结果和参数相互对应的时候，似然和概率在数值上是相等的，如果用 θ 表示环境对应的参数，x表示结果，那么概率可以表示为：P(x|θ)P(x|θ)

p(x|θ)p(x|θ) 是条件概率的表示方法，θθ是前置条件，理解为在 θ 的前提下，事件 x发生的概率，相对应的似然可以表示为：L(θ|x)L(θ|x)

可以理解为已知结果为 x ，参数为 θθ (似然函数里 θθ 是变量，这里说的参数和变量是相对与概率而言的)对应的概率，即：L(θ|x)=P(x|θ)

需要说明的是两者在数值上相等，但是意义并不相同，L 是关于 θθ的函数，而 P 则是关于 x的函数，两者从不同的角度描述一件事情。

整体步骤：

(1)写出似然函数；

通过大量的数据结果得出事件发生概率p，拟写似然函数（这里的函数依赖于 p 的值，p不是函数的前提条件）

(2) 对似然函数取对数，并整理；

(3) 求导数 ；

(4) 解似然方程

参考链接：

https://blog.youkuaiyun.com/zengxiantao1994/article/details/72787849

http://fangs.in/post/thinkstats/likelihood/

https://blog.youkuaiyun.com/qq_36396104/article/details/78171600