线性模型

最新推荐文章于 2024-02-04 17:17:50 发布

sun_rose

最新推荐文章于 2024-02-04 17:17:50 发布

阅读量1.1k

点赞数

CC 4.0 BY-SA版权

分类专栏：机器学习基础教程文章标签：机器学习-周志华

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.youkuaiyun.com/sun_rose/article/details/78807592

这篇博客详细介绍了线性模型，包括一般线性回归和广义线性回归的概念，以及如何处理XTX非满秩矩阵时的正则化处理。接着探讨了对数几率模型，特别是二分类任务中的logistic回归，通过两种方法解释了模型的求解过程。最后，提供了logistic回归的Python实现代码。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一、一般线性回归

基本形式： $f(x)=w_1x_1+w_2x_2+...+w_dx_d+b$ ， $d$ 个自变量，1个因变量。
用向量形式写成： $f(x)=w^Tx+b$ ，其中 $w=(w_1;w_2;...;w_d)$ .
用最小二乘法对 $w$ 和 $b$ 进行估计。
把 $w$ 和 $b$ 吸收入向量形式 $\hat w=(w;b)$ 于是 $f(x)=\hat w X$ ， $f(x)$ 可写成向量形式 $y=(y_1;y_2;\cdots;y_m)$ . $y=\hat w X$

X = ⎛ ⎝ ⎜ ⎜ ⎜ ⎜ x 11 x 21 ⋮ x m 1 x 12 \dots x 1 d x 22 \dots x 2 d ⋮ x m 2 \dots x m d

最低0.47元/天解锁文章

200万优质内容无限畅学

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。