《机器学习》周志华

最新推荐文章于 2025-05-07 21:06:29 发布

wandingrou4211

最新推荐文章于 2025-05-07 21:06:29 发布

阅读量447

点赞数

本文深入探讨了机器学习中线性模型的应用，通过对数据集D的解析，详细讲解了拟合模型y=wx+b的构建过程及最小二乘法求解参数w的方法。适合初学者及进阶者阅读。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

《机器学习》周志华读书笔记————第三章线性模型

数据集： $D={(x_{1},y_{1}),(x_{2},y_{2}).....(x_{m},y_{m})}$
其中： $xi=(xi1,xi2...xid),yi∈Rx_{i}=(x_{i1},x_{i2}...x_{id}),y_{i}\in\R$
拟合模型： $y = w x + b$
目标函数： $(w∗,b∗)=argminw,b=∑i=1m(f(xi)−y)2(w^{*},b^{*})=argmin_{w,b}=\sum_{i=1}^{m}(f(x_{i})-y)^{{_{}}^{2}}$
如果 $x$ 为一维的，非常简单，利用最小二乘法求导可得： $w=∑i=1myi(xi−x‾)∑i=1mxi2−1m(∑i=1m)2w=\frac{\sum_{i=1}^{m}y_{i}(x_{i}-\overline{x})}{\sum_{i=1}^{m}x_{i}^{2}-\frac{1}{m}(\sum_{i=1}^{m})_{}^{2}}$