transp的博客

原创 机器学习入门笔记——关于梯度下降参数更新的理解

梯度下降中参数更新公式的数学逻辑 大部分的机器学习模型（或者严格来说，统计学习方法）从结构上可以被抽象为三个基本要素：模型、策略、算法。其中策略作为评判模型好坏的标准，最直观的表述便是损失函数。在神经网络和大部分的机器学习模型中，对损失函数有这样的定义： C(w,b)=12n∑x∣∣y(x)−a∣∣2 C(w, b) = \frac{1}{2n}\sum_{x}||y(x)-a||^2 C(w,b...