似然函数和最大似然估计

1 最大似然估计
最大似然估计，以我的理解，就是找到一个最优参数$\theta$，使得观测到已知样本的可能性最大，是一种反推方法。

对于随机变量$X$，观测到一组相互独立的n维样本$x_1,x_2...x_n$。若$X$在某一取值$x_i$处的概率密度为$f_X(x_i|\theta )$，那么随机变量$X$取值为这一组样本的概率密度为

f X ( x ∣ θ ) = f X ( x 1 , x 2 . . . x n ∣ θ ) = ∏ i = 1 n f ( x i ∣ θ ) \begin{aligned} f_X(x|\theta)=f_X(x_1,x_2...x_n|\theta)=\prod_{i=1}^{n}f(xi|\theta) \end{aligned} fX​(x∣θ)=fX​(x