- 博客(2)
- 资源 (1)
- 收藏
- 关注
原创 最小描述长度准则—Minimum Description Length
一、MDL的提出目的 提出最小描述长度(MDL)的目的是为了根据信息论中的基本概念来解释极大后验假设(MAP)。二、理论基础A. 极大后验假设(MAP) 贝叶斯公式: 在许多学习场景中,学习器考虑候选假设集合H并在其中寻找给定数据D时,可能性最大的假设h(或者存在多个这样的假设时选择其中之一)。这样的具有最大可能性的假设h被称为极大后验 (
2017-05-19 09:29:33
19288
1
原创 浅谈平方和误差函数
线性回归,误差函数是平方和函数,神经网络中也会选用平方和误差函数,但是为什么误差函数是平方和,而不是绝对值、三次函数或者其他的形式呢?这个问题,有多个角度可以阐释。1、从概率的角度 不管是线性回归,还是神经网络或者其他算法,我们可以假设实际的(理想的)模型是F(x)。在实际任务中,我们将从数据集{(Xi,Yi)},i = 1,2.......,n,中学习出一个模型f(x)。数据集
2017-04-19 22:44:54
9385
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人