用到啥,补充啥。
汇总HOG的博客
EM算法(Expectation Maximization Algorithm 最大期望算法)
一种迭代算法,在统计学中被用于寻找,依赖于不可观察的隐性变量的概率模型中,参数的最大似然估计。
在每一次的迭代过程中,主要分为两步:即求期望(Expectation)步骤和最大化(Maximization)步骤。
思想
小时候我们就有这个思想,就是妈妈让和妹妹分糖果,你懒得数到底多少颗,于是直接划分成两堆,然后掂量一下,哪个是多的,哪个是少的,如果左边多了,就放一些到右边,(迭代更新),等到你觉得差不多了,就结束。
EM算法也是类似的,随便定义一个数字,然后并不是准确的,需要双方进行迭代更新,使得差最小,EM是期望最大化。比如身高划分问题,挑选200个学生测量身高,假如得到了一个1.80的数据,那么会首先猜测这是一名男生,这就是E步。然后给每个人划分好了之后,我们就可以用最大似然估计估计分布的参数。估计出的参数可能并不符合开始的期望,小的话,就需要改进,然后将数据重新划分,使达到分布期望最大,这就是M步
应用
最广泛的应用就是GMM混合高斯模型,和K-mean聚类算法,和EM算法
就是鸡和蛋的先后问题,