史上最易懂的最小二乘法实践:线性最小二乘法推导与Python求解编程教程

本文介绍了最小二乘法的基本概念和用途,主要用于数据拟合。通过实例解释了线性最小二乘法的原理,假设数据遵循线性函数并构建线性方程组。通过矩阵运算求解最优参数,并展示了如何用Python实现这一过程。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

最小二乘法有什么用?一般用它做什么事?

我们最早接触最小二乘法是在高中的时候学的。最小二乘法一般被用来拟合数据。什么叫做拟合数据?
就是给定你一堆数据,然后你假设这些数据是满足某种函数的,比如你假设这些数据是一条直线。现在问题来了到底这些数据所对应的那条直线斜率是多少截距是多少?这就得用最小二乘法来求解。
总结:最小二乘法拟合数据的步骤有两步。1.首先,假设这些数据符合某种函数。而这种函数往往有几个待设定的参数,不同数据对应不同参数。(就像直线一样不同数据,拟合这些数据的直线的斜率和截距都不一样)。2.然后,使用最小二乘法求解前面步骤提到的那几个待设定参数。具体怎么求解请看后面的内容。

从实例中学习线性最小二乘法

假设我们需要拟合下面这三个点。
在这里插入图片描述
前面提到了第一步我们需要假设这些数据符合某种函数。在这里我们假设它们是符合线性函数的。假设拟合他们的直线方程为y=kx+by=kx+by=kx+b。其中k是斜率,b是截距。这两个都是未知的待求解的量
如果他们完全是在直线上那么他们应该要满足y=kx+by=kx+by=kx+b。现在有三个数据点那么代入到(kx+b)=y(kx+b)=y(kx+b)=y可以得到三个式子(由于数据并不完全在直线上所以是约等于)。
(kx1+b)≈y1(kx2+b)≈y2(kx3+b)≈y3(kx1+b)\approx y1\\ (kx2+b)\approx y2\\ (kx3+b)\approx y3(kx1+b)y1(kx2+b)y2(kx3+b)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值