线性回归算法梳理

1. 机器学习的一些概念
   有监督：有目标值Y
   无监督：无目标值Y
   泛化能力：在预测集上的预测能力
   过拟合欠拟合(方差和偏差以及各自解决办法)：测试集预测能力不好叫欠拟合，在测试集上OK，训练集NG；方差能解决过你和问题，偏差能解决欠拟合问题
   交叉验证：将样本分为N分，按照一定的划分方式划分训练集和测试集，互相交叉验证
2. 线性回归的原理
   找到Y的关于x的线性相关函数，使得Y与X之间存在线性关系
3. 线性回归损失函数、代价函数、目标函数
   yiˆ=θ⋅xi
   C=∑(yi−yˆi)2
4. 优化方法(梯度下降法、牛顿法、拟牛顿法等)
   thta新=thta旧+alpha导数
   dex（y新-y旧）/dex（x新-x旧）约等于倒数
   5、线性回归的评估指标
   MSE R2
   6、sklearn参数详解
   https://scikit-learn.org/stable/