Task05:建模预测
1. 线性回归模型
线性回归对于特征的要求:
特征符合线性行和可加性。假设因变量为Y,自变量为X1,X2,则回归分析的默认假设为Y=b+a1X1+a2X2+ε。 线性性:X1每变动一个单位,Y相应变动a1个单位,与X1的绝对数值大小无关。可加性:X1对Y的影响是独立于其他自变量(如X2)的特征之间应相互独立。
理解线性回归模型
线性回归五大假设:
1)线性性 & 可加性,
2)误差项(ε)之间应相互独立,
3)自变量(X1,X2)之间应相互独立,
4)误差项(ε)的方差应为常数,
5)误差项(ε)应呈正态分布
评价函数与目标函数
目标函数是最终需要优化的函数(obj=loss+Ω),其中包括经验损失和结构损失。经验损失(loss)就是损失函数/代价函数。结构损失(Ω)就是正则项之类的来控制模型复杂程度的函数。
评价函数即损失函数/代价函数,用于评估预测值和真实值差异。常用有:平均绝对误差(Mean Absolute Error,MAE),均方误差(Mean Squared Error,MSE),平均绝对百分误差(Mean Absolute Percentage Error,MAPE),均方根误差(Root Mean Squared Error), R2(R-Square)。