局部加权线性回归（LWLR）

局部加权线性回归（LWLR）

对于线性回归算法，容易出现欠拟合，而多项式回归又容易出现过拟合。因此出现了局部加权回归

模型

$$y^{(i)}=\theta^T \cdot x^{(i)}$$

和线性回归的模型相同，但是对于每一个预测点，$\theta$都需要重新计算，并不是固定不变的。

损失函数

$$L(\theta)= \frac 1 {2M} \sum_{i=1}^m w_i (y_i - \theta^T x_i)^2$$