本文通过简森不等式详细阐述了高斯混合模型（GMM）的一种解法。首先解释了简森不等式及其推广形式，然后在GMM的背景下，利用该不等式推导新参数θ，以优化目标函数J(θ)。通过拉格朗日乘数法找到使J(θ)-J(Θ)最大化的θ值，证明了这种方法与传统解法的一致性。
§第三部分，GMM的另一种解法
在本部分，讲义中利用简森不等式（Jensen's Inequality）来实现GMM的求解。
在开始之前，首先对该不等式进行说明。由于对数函数f(x)=ln(x)是一个凹函数，可得到下面的不等式
ln[λxi+(1-λ)x2]>=λln(x1)+(1-λ)ln(x2)
推广该式可得到简森不等式（ Jensen's Inequality）
其中λi必须满足之和为1。
假设现有的参数为Θ(下面的公式中出现θ上面有~符号的文字中使用Θ来表示))现在想找出新的θ值，使得J(θ)>J(Θ),同样假设m=3为例，那么J(θ)可以表示为：
因此：
最低0.47元/天 解锁文章
扫一扫
5039
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
