机器学习：线性回归（Linear Regression）

原理：线性回归，是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。其表达形式为：

用途：线性回归的用途主要分为以下两种。

1、给定一个变量y和一些变量X1,…,Xn，这些变量有可能与y相关，线性回归分析可以用来量化y与Xj之间相关性的强度，评估出与y不相关的Xi，并识别出哪些Xi的子集包含了关于y的冗余信息。

2、如果目标是预测或者映射，线性回归可以用来对观测数据集Y的值和X的值拟合出一个预测模型，例如分析房价与面积的关系等。
 

如果y的值是连续的，这就是一个回归问题，如果y的值是离散的，这就是一个分类问题。                                                                  对数据统一做一个归一化处理，所有数据均除以该组中的最大值，取值范围统一归置到[0,1]。 

w和b 就是要优化的参数。

通过差值可以很明显的看出预测和实际真值有一定的差距，那么如何定量描述这种差距呢？

loss

           

接下来的目标很明确，就是

如何不断的调整参数a,b 来使loss越来越小，最终令预测尽可能接近真实值。

从这一点出发，很多人做了很多不同的工作，我们将这些方法统称为优化函数。

https://blog.youkuaiyun.com/weixin_39738307/article/details/81980833