qq_45940507的博客

一、局部加权线性回归由来及原理原始线性回归目标函数：J(θ)=12Σi=1m(hθ(x(i))−y(i))2J(θ) = \frac12Σ_{i=1}^{m}(h_θ(x^{(i)}) - y^{(i)})^2J(θ)=21​Σi=1m​(hθ​(x(i))−y(i))2局部加权线性回归目标函数：J(θ)=12Σi=1mω(i)(hθ(x(i))−y(i))2J(θ) = \frac12Σ_{i=1}^{m}\omega ^{(i)}(h_θ(x^{(i)}) - y^{(i)})^2J(θ)=2

前提m行数据，n列特征数学模型hθ(x)=Σj=0nθjXj（X0=1）h_θ(x) = Σ_{j=0}^{n}θ_jX_j（X_0=1）hθ​(x)=Σj=0n​θj​Xj​（X0​=1）目标函数J(θ)=12Σi=1m(hθ(x(i))−y(i))2J(θ) = \frac12Σ_{i=1}^{m}(h_θ(x^{(i)}) - y^{(i)})^2J(θ)=21​Σi=1m​(hθ​(x(i))−y(i))2任务寻找θθθ使J(θ)J(θ)J(θ)最小方法方法一、梯度下降（Gra