贝叶斯估计

贝叶斯估计

1. 前言

最大似然估计是把待估计的参数当作未知但固定的量，要做的是根据观测数据估计这个量的取值；而贝叶斯估计则把待估计的参数本身也看作是随机变量，要做的是根据观测数据对参数的分布进行估计，除了观测数据外，还可以考虑参数的先验分布。贝叶斯学习（Bayesian Learning）则是把贝叶斯估计的原理用于直接从数据对概率密度函数进行迭代估计。
简单来说：

1. 最大似然估计：样本集$X$ →\rightarrow