凌风探梅的专栏

ＦＲＯＭ： http://www.cnblogs.com/ronny/p/3345900.html1 概率是什么概率是表示某种情况（事件）出现的可能性大小的一种数量指标，它介于0与1之间。1.1 主观概率凭着经验和知识对事件发生的可能性作出的一种主观估计，主观概率可以理解为一种心态或倾向性。这里的某种事件后面即定义为随机事件，所谓“随机事件”

原作者未知EM是我一直想深入学习的算法之一，第一次听说是在NLP课中的HMM那一节，为了解决HMM的参数估计问题，使用了EM算法。在之后的MT中的词对齐中也用到了。在Mitchell的书中也提到EM可以用于贝叶斯网络中。下面主要介绍EM的整个推导过程。1. Jensen不等式      回顾优化理论中的一些概念。设f是定义域为实数的函数，如果对于所有的实数x，，那么f是凸函

原作者未知最大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。简单而言，假设我们要统计全国人口的身高，首先假设这个身高服从服从正态分布，但是该分布的均值与方差未知。我们没有人力与物力去统计全国每个人的身高，但是可以通过采样，获取部分人的身高，然后通过最大似然估计来获取上述假设中的正态分布的均值与方差。    最大似然估计中采样需满足一个很

原文地址：数据的规范化，归一化，标准化，正则化作者：打湿井盖    数据的规范化，归一化，标准化，正则化，这几个破词整得我头晕，首先这些词就没规范好，对数据做实验更晕，网上狂搜一阵后，发现数据归一化，标准化，正则化，还是有差别数据规范化  一种是针对数据库的解释   规范化理论把关系应满足的规范要求分为几级，满足最低要求的一级叫做第一范式(1NF)，在第一范式的

最大似然估计的一个示例发表于1年前(2015-01-03 11:15)   阅读（21） | 评论（0） 0人收藏此文章, 我要收藏赞04月23日，武汉源创会火热报名中，期待您的参与>>>>>   最大似然估计（又“极大似然估计”，Maximum Likelihood Estimate）： 最大似然估计和最小二乘法怎么理解？ http://www.z

贝叶斯估计和最大后验估计发表于1年前(2015-01-03 11:48)   阅读（23） | 评论（0） 0人收藏此文章, 我要收藏赞0使用贝叶斯估计计算参数比较困难，所以简化为最大后验估计。 最大后验估计(MAP)： http://www.cnblogs.com/liliu/archive/2010/11/24/1886110.html 给出了MAP

From:http://blog.youkuaiyun.com/j123kaishichufa/article/details/7638181 1.什么是随机过程？在当代科学与社会的广阔天地里，人们都可以看到一种叫作随机过程的数学模型：从银河亮度的起伏到星系空间的物质分布、从分子的布朗运动到原子的蜕变过程，从化学反应动力学到电话通讯理论、从谣言的传播到传染病的流行、从市场预测到密码破译，随机过程理

from：http://blog.youkuaiyun.com/u010140338/article/details/41344853From : http://www.cnblogs.com/wybang/p/3206719.html           http://cos.name/2013/01/lda-math-beta-dirichlet/ 在机器学习领域中，概率模

FROM：http://www.ruanyifeng.com/blog/2013/12/naive_bayes_classifier.html作者： 阮一峰日期： 2013年12月16日生活中很多场合需要用到分类，比如新闻分类、病人分类等等。本文介绍朴素贝叶斯分类器（Naive Bayes classifier），它是一种简单有效的常用分类算法。

FROM： http://www.cnblogs.com/leoo2sk/archive/2010/09/17/1829190.html0、写在前面的话      我个人一直很喜欢算法一类的东西，在我看来算法是人类智慧的精华，其中蕴含着无与伦比的美感。而每次将学过的算法应用到实际中，并解决了实际问题后，那种快感更是我在其它地方体会不到的。      一直想写关于算法的博文，

ＦＲＯＭ：http://www.cnblogs.com/ronny/p/3346568.html1. 随机变量的概念顾名思义，随机变量就是“其值随机会而定”的变量。随机变量的反面是“确定性变量”，即其值遵循某种严格的规律的变量，比如从北京到上海的距离。但是从绝对意义上讲，许多通常视为确定性变量的量，本质上都有随机性，只是由于随机性干扰不大，以至在所要求的精度之内，不妨把经作为确定性变量来处

原作者未知最大后验估计是根据经验数据获得对难以观察的量的点估计。与最大似然估计类似，但是最大的不同时，最大后验估计的融入了要估计量的先验分布在其中。故最大后验估计可以看做规则化的最大似然估计。    首先，假设x为独立同分布的采样，θ为模型参数,f为我们所使用的模型。那么最大似然估计可以表示为：     现在，假设θ的先验分布为g。通过贝叶斯理论，对于θ的后验分布如