影 的专栏

参考：http://baike.baidu.com/view/45379.htm?fromtitle=高斯分布&fromid=10145793&type=syn正态分布（Normal distribution）又名高斯分布（Gaussian distribution），是一个在数学、物理及工程等领域都非常重要的概率分布，在统计学的许多方面有着重大的影响力。若随机变量X服从一个数学期望为μ、方差为σ

参考：https://www.zhihu.com/question/20447622/answer/23902715 说的通俗一点啊，最大似然估计，就是利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值(模型已知，参数未知）。基本思想当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大，而不是像最小二乘估计法旨在得到使得模型能最好地拟

基础频率学派与贝叶斯学派http://www.douban.com/group/topic/16719644/http://www.zhihu.com/question/20587681最大似然估计（Maximum likelihood estimation，MLE）http://baike.baidu.com/view/1918804.htmhttp://baike.baidu.co

最大似然估计：把待估计的参数看作是确定性的量（只是其取值未知），其最佳估计就是使得产生已观察到的样本（即训练样本）的概率为最大的那个值。（即求条件概率密度p(D|＄)为最大时的＄，其中D为样本集，＄为条件概率密度分布的参数）。特点：简单适用；在训练样本增多时通常收敛得很好。只考虑某个模型能产生某个给定观察序列的概率，而未考虑该模型本身的概率，这点与贝叶斯估计区别。目标是寻求能最大化likehood

1.经验风险最小化：2.结构风险最小化：结构风险最小化等价于正则化，结构风险在经验风险上加上表示模型复杂度的正则化项。正则化的好处将在下一篇文章中总结。以下是来自《统计学习方法》的一些结论：1、当模型是条件概率分布，损失函数是对数损失函数时，经验风险最小化等价于极大似然估计（对数损失函数的形式：）2、当模型是条件概率分布，损失函数是对数损失函数时，模型复杂度由模型的先验概率表示时，结构风险最小化等