统计学习绪论

1 、
损失函数：度量模型一次预测的好坏。
风险函数：度量平均意义下模型预测的好坏。
期望风险函数（期望损失）：是模型关于联合分布的期望损失。

$$R_{exp}(f)=E_p [L(Y,f(X))]= \lmoustache_{\mathcal {x}\times\mathcal {y}}L(y,f(x))P(x,y)dxdy$$
经验风险函数（经验损失）：是模型关于训练样本集的平均损失。
$$R_{emp}(f)=\frac{1}{N}\sum_{i=1}^NL(y_i,f(x_i))$$