机器学习笔记 (1)-线性回归模型

最新推荐文章于 2025-06-25 17:12:17 发布
原创 最新推荐文章于 2025-06-25 17:12:17 发布 · 8.7k 阅读 · 18 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #AI #人工智能 #统计学习方法 #编程

本文介绍了机器学习中的线性回归模型，包括模型定义、损失函数及其图示，重点讲述了梯度下降算法用于最小化损失函数的过程。线性回归作为监督学习的基础，因其简单、可解释性强，常被用作其他复杂模型的基准。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

参考资料

  • 《机器学习》-周志华
  • 《寒小阳机器学习讲义》-寒小阳
  • 《统计学习方法》-李航

摘要

机器学习包含监督学习、非监督学习、以及强化学习三大部分。监督学习又分为分类和回归两大类。线性回归模型就属于监督学习里的回归模型。

正文

1. 定义

线性回归模型
通过属性的线性组合进行预测的函数，即
f(x)=w1.x1+w2.x2+w3.x3+...+wn.xn+b

向量形式为： f(x)=wT∗x+b
其中 w=(w1,w2,

最低0.47元/天 解锁文章

200万优质内容无限畅学
机器学习模型—线性回归
03-07 4万+
这里我们主要介绍了简单线性回归，以及多元线性回归，以及多项式回归，其实我们可以看到多项式回归和我们之前数据预处理环节讲的特征转换有点像，其实本质上就是根据数据探索，我们发现数据可能不是线性关系，而做出的尝试。
机器学习线性回归模型_机器学习的线性回归模型
weixin_26726011的博客
08-20 1725
机器学习线性回归模型Linear Regression is one of the fundamental supervised-machine learning algorithm. While it is relatively simple and might not seem fancy enough when compared to other Machine Learning algor...
机器学习-线性模型
最新发布
dingyahui的博客
06-25 878
线性模型形式简单、易于建模，（如简单的二元一次方程线性函数，复杂的线性函数，多维变量与因变量的关系）却蕴涵着机器学习中的一些重要的基本思想。许多功能更为强大的线性模型可以在线性模型的基础上通过引入层级结构或者高维映射而得。几种经典的线性模型（线性回归、对数几率回归、线性判别分析、多分类学习）
机器学习|线性回归模型
yh的博客
11-23 339
线性回归模型 by - YH Date - 23/11/2019 从今天开始我的机器学习之路，以后会不定期的更新，敬请大家期待！ 本文主要运用TensorFlow实现了机器学习中的线性回归模型，这里是在Jupyter Notebook上面实现的。 %matplotlib inline import tensorflow as tf import numpy as np import ma...
机器学习之线性回归模型
qq_43412251的博客
09-12 164
线性回归模型 我们可以使用成本函数（cost function）来衡量预测函数（hypothesis function）的准确性。 找寻一个成本函数最小的线性回归方程 平方误差函数：Squared error function 梯度下降算法：Gradient Descent 公式 for（j:0->1） α为学习速度，可理解为下降过程中的步长 随着逐步逼近最低点，偏导会变小，进而导致步长变小，避免了一部分因步长过大而越过极值点的情况 而因为成本函数均为凸函数（？），所以只存在一个全局最优解（没有局
python机器学习---监督学习---线性回归模型（用于回归）
Anne的博客
06-29 1351
目录 1、线性模型基本原理 1.1 线性模型一般公式 1.2 线性模型图形表示 2、线性模型分类及模型实现​ 3、线性模型的优缺点 备注：本文主要来自于对《深入浅出python机器学习》书籍的学习总结笔记，感兴趣的同学可以购买本书学习 1、线性模型基本原理 1.1 线性模型一般公式 线性模型在拟合数据集时，会让自己距离每个数据点的加和为最小值，即找到找到训练数据集中y的预测值...
机器学习笔记（1）------线性回归
xx的博客
02-04 497
线性回归是机器学习中一种基本的监督学习算法，用于建模自变量（特征）与因变量（目标）之间的线性关系。
《机器学习by周志华》学习笔记-线性模型-02对数几率回归与线性判别分析
vanilla698的博客
04-17 1296
上一节我们考虑了线性模型的回归学习，但是想要做分类任务就需要用到上文中的广义线性模型。当联系函数连续且充分光滑，考虑单调可微函数。多分类与二分类的线性判别分析（LDA）
十大机器学习算法-学习笔记-章节1-线性回归—
P5093的博客
08-04 1094
2-误差项定义_哔哩哔哩_bilibili什么是误差项定义？在回归分析中，误差项（Error Term），也称为残差（Residual），是指实际观测值与模型预测值之间的差异。具体来说，误差项可以定义为：\epsilon_i \) 是第 \( i \) 个观测值的误差项。\hat{y}_i \) 是模型对第 \( i \) 个观测值的预测值。误差项是由随机因素影响的，它反映了模型无法解释的部分。在理想情况下，误差项的期望值为零，即 E(ϵi)=0E(ϵi​)=0。
Andrew Ng机器学习课程笔记--week2（多元线性回归&正规公式）
06-20
在机器学习领域，多元线性回归是一种广泛应用的预测模型，特别是在处理多个自变量与一个因变量之间关系的问题上。在Andrew Ng的机器学习课程中，Week2主要讲解了多元线性回归及其相关的优化方法，包括梯度下降和正规...
机器学习-线性回归模型
m0_61159638的博客
04-09 1008
机器学习-线性回归学习，全文调用sklearn，简单解释下常用的数学原理
机器学习中的线性回归模型
2302_81695297的博客
09-16 533
假设我们有一组数据点(x_1,y_1),(x_2,y_2),\cdots,(x_n,y_n)，线性回归模型的目标是找到一条直线y = wx + b，其中w是斜率（权重），b是截距，使得预测值\hat{y}=wx+b与实际值y之间的差异最小。例如，可以使用公司的财务指标、宏观经济数据等作为自变量，股票价格作为因变量，建立线性回归模型。例如，w表示自变量x对因变量y的影响程度，b表示当x = 0时y的取值。- 可以使用房屋的面积、位置、房间数量等特征作为自变量，房价作为因变量，建立线性回归模型来预测房价。
机器学习_线性回归模型
如风飘荡的男子的博客
09-22 3850
1.线性回归 1.1模型 1.1.1目标函数（损失函数、正则）     a.无正则：最小二乘线性回归（OLS）     b.L2正则：岭回归（Ridge Regression）     c.L1正则：Lasso 1.1.2概率解释     最小二乘线性回归等价于极大似然估计     Recall:极大似然估计     线性回归的MLE     正则回归等价于贝叶斯估计 小结：...
斯坦福机器学习笔记：从线性回归到SVM
"这是一份详细的斯坦福大学CS229机器学习课程个人笔记，包含了从线性回归到增强学习等多个重要主题。笔记作者强调笔记可能存在错误，建议读者结合Andrew Ng教授的讲义和视频进行深入学习。笔记还涵盖了判别模型、...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值