AI算法--2.线性回归算法

学习笔记，自liuyubobo老师，慕课网

**

线性回归算法

**

0 目录结构

1.1 一类机器学习算法的基本思路

线性回归使用最佳的拟合直线（也就是回归线）在因变量（Y）和一个或多个自变量（X）之间建立一种关系。用一个方程式来表示它，即Y=a+b*X + e，其中a表示截距，b表示直线的斜率，e是误差项。这个方程可以根据给定的预测变量（s）来预测目标变量的值。

损失函数最小

1.2 简单的线性回归求解

有了 a 和 b 的值后，可以预测回归问题（x == 6）：

1.3 衡量线性回归法的指标

拿测试数据，通过模型计算结果和预测结果进行比较，但是和容量m相关

1.3.1 MSE
改进，取1/m，就引入了下面的均方误差MSE：

1.3.2 RMSE
但是量纲不一样，有平方，所以引入开一个根号 -> RMSE 均方根误差（Root Mean Suqared Error）

1.3.3 MAE
另一个评测标准：

1.3.4 R Squared
R-Squared R方误差估计

R方值的含义：

R方还可以表示为：

1.4 多元线性回归

目标函数：

为了实现向量化计算，将西塔右边加了一个恒等于1的数。

从而将数值计算，转化为矩阵计算。

1.5 线性回归总结