u010561073的专栏

机器学习-学习笔记-梯度下降-SGD/BGD根据Andrew Ng的Lecture notes, 我重新整理了梯度下降（including LMS/BGDSGD）的相关知识。首先，引入一个例子， 假设我们现在有一个数据集，数据集中包含了A城市的47套房屋的信息，信息有房屋的居住面积，房间数量和价格，数据集如下图。我们要做的是，根据房屋的居住面积和房间数量来预测它的价格。 简单的以 x1x_1 表

欠拟合和过拟合首先看下面的三幅图， 第一幅拟合为了 y=θ0+θ1xy=θ_0 + θ_1x 的一次函数 第二幅拟合为了y=θ0+θ1x+θ2x2y=θ_0 + θ_1x + θ_2x^2 的二次函数 第三幅拟合为了 y=∑5j=0θjxj y= \sum_{j=0}^5 θ_j x^j 的五次项函数最左边的分类器模型没有很好地捕捉到数据特征，不能够很好地拟合数据，我们称为欠拟合 而最右

在前一篇文章中解释了线性回归以及如何梯度下降的方法优化参数，内容参考了吴恩达老师的《机器学习》和书籍《机器学习实战》这一篇再次回顾线性回归的概念已经它的应用场景，重点展示一个应用的例子。 目录如下：线性回归的概念线性回归的优缺点线性回归的应用及例子 线性回归的概念回归可以用来做预测和分类，当目标值是连续的时，我们称为回归；当目标值是离散的时，我们称为分类。线性回归其实就是函数拟合。假设我