dongkun152的专栏

深度学习-损失函数 损失函数 获得损失函数在花书中就是两种方式，均方误差和最大似然（Maximum likelihood），在回归问题中，均方误差和最大似然得出的结果是一样的。 大多数情况下，我们的参数模型定义了一个分布p(y∣x;θ)p(y|x;\theta)p(y∣x;θ)并且我们简单实用最大似然原理。这意味着我们实用训练数据和模型预测之间的交叉熵作为代价函数 大多数现代的神经网络实用最大似然来训练。这意味着代价函数就是负的对数似然，它与训练数据和模型分布之间的交叉熵等价。这个代价函数表示为 J(θ)=

深度学习好文章整理 深度学习基础系列