机器学习的偏差-方差分解

假设样本变量为 $X$ ，它的标签 $Y$ 为 $X$ 的函数 $Y = f\left (X\right ) + \epsilon$ 。其中为 $\epsilon$ 机器学习模型学习不到的噪音。
对于机器学习模型 $M,$ 假设训练后，对 $X$ 的预测值为 $X$ 的函数 $\hat f \left (X \right )$ 。
对于一个测试集中的样本点 $x$ ，它的标签 $y = f \left (x\right ) + \epsilon$
记 $f = f\left (x\right ) ,$
假设 $\operatorname E \epsilon = 0, \operatorname {Var} \epsilon = \sigma ^2$
使用不同的训练集对 $M$ 进行多次训练，每次训练后都记录在点 x