机器学习之线性回归 Linear Regression（一）

最新推荐文章于 2025-10-27 15:42:33 发布
原创 最新推荐文章于 2025-10-27 15:42:33 发布 · 2.3k 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #线性回归

这篇博客介绍了机器学习中的线性回归模型，包括线性回归的定义、建模过程、损失函数、不同类型的梯度下降算法以及防止过拟合的正则化方法。线性回归假设输入和输出存在线性关系，并通过最小化损失函数进行参数学习。文章详细阐述了批量梯度下降、随机梯度下降和小批量梯度下降的工作原理。

一、线性回归

        线性回归一般用来做连续值的预测，预测结果为一个连续值。因为训练时学习样本不仅要提供学习的特征向量X，还要提供样本的实际结果，所以它是一种有监督学习。

        表示数据矩阵，其中表示一个n维长的数据样本，表示数据标记。线性回归需要学习得到一个映射关系，当给定新的待预测样本时，可以通过这个映射关系得到一个测试样本X的预测值y。

        线性回归的数学假设

1、假设输入X和输出y是线性关系，预测的y和X通过线性方程建立模型

2、Y和X之间满足方程Y=XW+e，e是误差项、噪声项，假设e是独立同分布的，服从IID（independent and identity distribution）和均值为0、方差为某一定值的正态分布。

二、线性回归建模

        当特征向量X中只有一个特征时，需要学习到的函数应该是一个一元线性函数y=ax+b

        当X有n个特征时，需要更多的系数

最低0.47元/天 解锁文章
[Python从零到壹] 十二.机器学习之回归分析万字总结全网首发（线性回归、多项式回归、逻辑回归）
杨秀璋的专栏
07-03 5万+
前一篇文章讲述了数据分析部分，主要普及网络数据分析的基本概念，讲述数据分析流程和相关技术，同时详细讲解Python提供的若干第三方数据分析库，包括Numpy、Pandas、Matplotlib、Sklearn等。本文介绍回归模型的原理知识，包括线性回归、多项式回归和逻辑回归，并详细介绍Python Sklearn机器学习库的LinearRegression和LogisticRegression算法及回归分析实例。进入基础文章，希望对您有所帮助。
sklearn机器学习:线性回归LinearRegression
The Zen of Data Analysis
10-09 994
LinearRegression类格式 sklearn.linear_model.LinearRegression (fit_intercept=True, normalize=False, copy_X=True, n_jobs=None) 参数 fit_intercept 布尔值，可不填，默认为True 是否计算此模型的截距。如果设置为False，则不会计算截距 normalize 布尔值，...
机器学习之线性回归
m0_69435474的博客
04-30 2848
文章目录一、线性回归1、普通线性回归（Linear Regression）2、岭回归（Ridge Regression）3、套索回归（lasso回归）二、python实战0、导包 数据说明1、线性回归2、岭回归3、Lasso回归 一、线性回归 1、普通线性回归（Linear Regression） 线性回归是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。 这种函数是一个或多个称为回归系数的模型参数的线性组合（自变量都是一次方）； 只有一个自变量的情况称为一元
线性回归（完整归纳，复习，面试）
Sirow的博客
10-27 1714
1.什么是线性回归 线性：两个变量之间的关系是一次函数关系的——图象是直线，叫做线性。 非线性：两个变量之间的关系不是一次函数关系的——图象不是直线，叫做非线性。 回归：人们在测量事物的时候因为客观条件所限，求得的都是测量值，而不是事物真实的值，为了能够得到真实值，无限次的进行测量，最后通过这些测量数据计算回归到真实值，这就是回归的由来。 2. 线性回归能够解决什么样的问题 对大量的观测数据进行处理，从而得到比较符合事物内部规律的数学表达式。也就是说寻找到数据与数据之间的规律所在，从而就可以模拟出结果，
机器学习（线性回归）
最新发布
weixin_43793703的博客
10-27 879
核心思想：线性回归是一种通过拟合自变量（特征）与因变量（标签）之间的线性关系来进行预测的监督学习算法。通俗解释：我们认为要预测的目标（比如房价）和其特征（比如面积、位置）之间存在一种“直线”关系。我们的目标是找到一条“最佳”的直线（或平面/超平面），使得这条直线能够尽可能准确地根据特征来预测目标。主要类型简单线性回归：只有一个自变量。Y = wX + b多元线性回归：有多个自变量。Y：我们要预测的因变量或目标值。：用于预测的自变量或特征。：模型的权重或系数，表示每个特征对预测结果的重要性。b偏置项或截距。
机器学习方法：回归（一）：线性回归Linear regression
weixin_30617797的博客
03-19 4599
欢迎转载，转载请注明：本文出自Bin的专栏blog.youkuaiyun.com/xbinworld。 开一个机器学习方法科普系列：做基础回顾之用，学而时习之；也拿出来与大家分享。数学水平有限，只求易懂，学习与工作够用。周期会比较长，因为我还想写一些其他的，呵呵。 content: linear regression, Ridge, Lasso Logistic Regression...
linear regression
xing1989的专栏
06-16 1011
行走的馒头  一、linear regression   http://zhfuzh.blog.163.com/blog/static/14553938720127309539465/ 先定义好我们所使用的符号语言，大写的表示我们input的自变量，其中表示自变量有p个维度，也可以说其有p个feature或者p个属性，每个维度可以是离散的或者连续的值。大写的表示我们需
机器学习_线性回归
A_Bo的博客
03-12 737
 首先要知道线性回归什么，并且线性回归可以解决什么问题。在统计学中，线性回归(LinearRegression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量的情况称为简单回归,大于一个自变量情况的叫做多元回归。回归分析常用于分析几个变量之间的关系，用来做连续值的预测，预测的结果也是...
机器学习—线性回归（Linear Regression）
10-18 1519
线性回归原理和分析
【机器学习】线性回归 LinerRegression
12-22
开始整理机器学习知识点。以脑图+代码实例+面试点作为骨架展开 脑图 代码实例- 手写线性回归以及和sklearn包下的区别 引入包，建立plt图片 # %load ../../standard_import.txt import pandas as pd import numpy as ...
精选资源
机器学习之多变量线性回归(Linear Regression with Multiple Variables).md
01-12
机器学习： 3.1 矩阵和向量 3.2 加法和标量乘法 3.3 矩阵向量乘法 3.4 矩阵乘法 3.5 矩阵乘法的性质 3.6 逆、转置
机器学习 ---线性回归
m0_72968288的博客
11-15 2296
文章主要介绍了线性回归相关内容，包括简单线性回归与多元线性回归的概念及示例，阐述了残差的定义、在理想与非理想模型中的情况及意义，还讲解了线性回归的正规方程解，涵盖其适用场景、公式推导与代码实现，提及衡量线性回归性能指标可参考其他文章，最后以 scikit-learn 中的 LinearRegression 类为例，介绍了其在波士顿房价预测实践中的应用，包括数据集情况、类的常用参数及训练、预测函数的使用等。
机器学习——线性回归
yXuan_ai的博客
03-27 9840
线性回归(Linear regression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归线性回归用矩阵表示举例那么怎么理解呢？我们来看几个例子期末成绩：0.7×考试成绩+0.3×平时成绩房子价格 = 0.02×中心区域的距离 + 0.04×城市一氧化氮浓度 + (-0.12×自住房平均房价) + 0.254×城镇犯罪率上面两个例子，
机器学习-线性回归
xu624735206的博客
03-23 6358
机器学习-线性回归一、线性回归概念二、怎样求解回归系数三、最小二乘法四、多元线性回归五、岭回归六、Lasso回归 一、线性回归概念 首先举个例子，我们去市场买牛肉，一斤牛肉52块钱，两斤牛肉104块钱，三斤牛肉156块钱，以此类推。也是说牛肉的价格随着牛肉斤数的增加而有规律地增加，这种规律可以下图表示： 可以看到上述规律可以用一条直线来表述，这就是一个线性模型。用 𝑦𝑦y 表示牛肉斤数，用 $𝑥 $表示价格，就得到方程： 𝑦=52𝑥𝑦=52𝑥y=52x。这个方程就叫做回归方程，52叫做回归系数，求解回归
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值