燃烧的舞步

粒子滤波       也就是知名的连续蒙特卡洛方法（SMC）,是一种基于仿真的成熟模型估计技术。粒子滤波通常用于估计与马尔科夫链联系的潜在变量的贝叶斯模型---类似于隐式马尔科夫模型，但是在潜在变量的状态空间是连续而不是离散表现典型，但也不完全受限于做出准确的跟踪推断（例如，在一个线性动态系统，潜在变量的动态空间受限于高斯分布，因此使用卡尔曼滤波能做出有效地准确估计）。       在隐式

EM是我一直想深入学习的算法之一，第一次听说是在NLP课中的HMM那一节，为了解决HMM的参数估计问题，使用了EM算法。在之后的MT中的词对齐中也用到了。在Mitchell的书中也提到EM可以用于贝叶斯网络中。下面主要介绍EM的整个推导过程。1. Jensen不等式      回顾优化理论中的一些概念。设f是定义域为实数的函数，如果对于所有的实数x，，那么f是凸函数。当x是向量

最近在打基础，大致都和向量有关，从比较基础的人工智能常用算法开始，以下是对BP算法研究的一个小节。      本文只是自我思路的整理，其中举了个例子，已经对一些难懂的地方做了解释，有兴趣恰好学到人工智能对这块不能深入理解的，可以参考本文。      因为大部分涉及公式，我就直接贴图了，请谅解，如果需要全文可以联系@梁斌penny 谢谢。