feng_zhiyu的博客

这里手写的最小二乘法​​​​​​​的推导过程。   

用途 梯度下降是一个用来求函数最小值的算法，我们将使用梯度下降算法来求出代价函数 的最小值。 思想 梯度下降背后的思想是：开始时我们随机选择一个参数的组合​，计算代价函数，然后我们寻找下一个能让代价函数值下降最多的参数组合。我们持续这么做直到到到一个局部最小值（local minimum），因为我们并没有尝试完所有的参数组合，所以不能确定我们得到的局部最小值是否便是全局最小值（global ...