- 博客(2)
- 收藏
- 关注
原创 浅谈最小二乘、最大似然和最大后验
大家学习机器算法的时候是不是经常搞混最小二乘法,最大似然法和最大后验法呢,今天就对这三种方法进行简单的解释 一、最小二乘法 最小二乘法的本质就是找到一个估计值,使实际值与估计值的距离最小。 而为了度量最小距离,只要使实际值与估计值之差的平方最小就好, 由此可以得出损失函数(cost function)的表达式 J(θ)=12m∑i=1m(hθ(x(i))−y(i))2J(\theta )=\fra...
2019-11-07 19:06:25
458
原创 正则化
正则化 过拟合现象出现的原因分析 我们的数据在训练集上可能表现得很好,但是在遇到新数据后,表现就没有那么出色,这种现象就是过拟合 出现这种现象的原因有哪些呢 (1)数据特征的角度 训练数据中存在噪音,噪声具有一定的随机性与欺骗性,如果把噪声作为有效信息的话,将会导致过拟合。 训练数据太少,训练数据集不能很好的反应整体分布可能会导致过拟合;训练数据集较小,但模型过度细化会导致过拟合。 (2)模型的角...
2019-11-06 20:35:32
139
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅