最小二乘法工程实践

三坐标测量中最小二乘法与切比雪夫法的工程实践与优化策略 本文深入探讨了三坐标测量中最小二乘法与切比雪夫法(最小区域法)的核心原理与工程应用。通过对比分析,阐述了最小二乘法在建立稳定基准和计算尺寸方面的优势,并强调切比雪夫法是评定形状公差(如圆度、平面度)的国际标准算法。文章结合实战代码与蔡司CALYPSO软件操作,提供了清晰的优化策略与场景选择指南,帮助工程师根据测量任务精准选用算法,确保结果符合功能边界与标准要求。 阅读详情

介绍

最小二乘法是一种在误差估计、不确定度、系统辨识及预测、预报等数据处理诸多学科领域得到广泛应用的数学工具 。最小二乘法是一种机器学习算法。

关于其原理的介绍以及公式推导有很多优质资料,比如我学习最小二乘法时的两个视频课程。本文不再介绍原理,而是介绍最小二乘法的工程应用。

数学建模之数据拟合(3):最小二乘法_哔哩哔哩_bilibili

[知识梳理-04] Recursive Least Squares 递归最小二乘法 RLS_哔哩哔哩_bilibili

工程实践

本文介绍函数拟合与信号预测方面的应用,学会基本的使用之后,读者可以根据自身需求应用到误差估计、参数辨识等领域,具体使用方法可以参考相关文献资料。使用Matlab作为演示,为了展示最小二乘法的向量表示,不使用Matlab的库函数。读者自己使用时也可以使用matlab的函数,比如polyfit、lsqcurvefit等,他们都是基于最小二乘法,根据需求选择函数,查看Matlab帮助文档即可。

用最小二乘求解非线性曲线拟合(数据拟合)问题 - MATLAB lsqcurvefit- MathWorks 中国

多项式曲线拟合 - MATLAB polyfit- MathWorks 中国

计算公式

向量计算

普通的最小二乘法只有两个公式,其中:

inv(A):求A得逆矩阵

X.' :求X得转置矩阵

function [ w ] = LS_Fitting( X, Y)
%输入: X 自变量矩阵
%      Y 因变量矩阵
%输出: w 系数矩阵
%作者:飞鸟

P = inv(X.'*X );
w = P * X.' * Y;
 
end

转换优化问题求解

最小二乘法可以转化为优化问题,我们假设目标方程为一阶线性方程,即:y = ax + b ,我们的目的是求解一个合适的a和b,使得目标函数的值最小。通过极值的方法进行求解,会涉及高数中的求偏导。当然不懂偏导也没有关系,我们直接看求解结果,会使用就行。

求解结果:

 

在c语言中,不方便进行矩阵、向量运算,可以直接使用a、b的求解结果。实际使用时,x与y均为已知量。计算为最基本的加减乘除运算,我们很容易写出运算的代码。

a、b为一阶线性方程的解,一般一阶线性方程就可以了,如果需要其他目标方程,可以去查阅相关资料,查找的资料也是直接查找对应的系数值(a、b、...)就行,不用关注推导过程。

函数拟合

我们已经介绍了2种最小二乘法的计算方法,可以根据数据求解出我们需要的目标方程,以下是算法实践。

线性方程

目标方程:y = ax + b

系数矩阵:w = [a;b];

  1. 以奥运会历年男子百米成绩作为数据,历年年份写为自变量矩阵。历年成绩写为因变量矩阵。注意X自变量矩阵的写法,之后看到非线性方程会更加清晰。
X = [ 1980 1
      1984 1
      1988 1
      1992 1
      1996 1
      2000 1
      2004 1
      2008 1
      2012 1
      2016 1
      2020 1 ];
Y = [ 10.25
      9.99
      9.92
      9.96
      9.84
      9.87
      9.85
      9.69
      9.63
      9.81
      9.80];

w= LS_Fitting( X, Y);    
  1. 将数据输入函数LS_Fitting计算得到系数矩阵。 获得系数矩阵w,就拟合出了线性方程y = ax + b
  2. 数据对比如下图,拟合数据基本复合实际数据的趋势。

非线性方程

目标方程:y = ax^2 + bx + c

系数矩阵:w = [a;b;c];

  1. 以奥运会历年男子百米成绩作为数据,历年年份写为自变量矩阵。历年成绩写为因变量矩阵。注意X自变量矩阵的写法,自变量矩阵的写法包含了目标方程的信息。
X = [ 1980*1980 1980 1
      1984*1984 1984 1
      1988*1988 1988 1
      1992*1992 1992 1
      1996*1996 1996 1
      2000*2000 2000 1
      2004*2004 2004 1
      2008*2008 2008 1
      2012*2012 2012 1
      2016*2016 2016 1
      2020*2020 2020 1];
Y = [ 10.25
      9.99
      9.92
      9.96
      9.84
      9.87
      9.85
      9.69
      9.63
      9.81
      9.80];

w= LS_Fitting( X, Y);    
  1. 将数据输入函数LS_Fitting计算得到系数矩阵。 获得系数矩阵w,就拟合出了线性方程y = ax^2 + bx + c
  2. 数据对比如下图,拟合数据基本复合实际数据的趋势,并且相比线性方程,一元二次非线性方程的拟合效果更好。

信号预测

以非线性方程拟合结果预测2024年百米冠军成绩为例,拟合方程为:

Fun =(1039712176776813*x^2)/2305843009213693952 - (8167480322080091*x)/4503599627370496 + 4031421507106269/2199023255552

带入年份x=2024,输出预测成绩:9.8228

总结

最小二乘法应用广泛,拟合方程后的用法也不只是信号预测方面,例如还可以做智能控制,可以结合本文的拟合方法带入自己的应用场景。实际使用中,灵活选择目标方程,可以获得更好的拟合结果。

以上介绍的最小二乘法对离线数据进行拟合,而递归最小二乘法可以应用于时变系统,可以进行实时的参数估计、自适应控制等,并且占用内存资源更小,下一篇文章中介绍递归最小二乘法。

参考资料:

曹连江著,电子信息测量及其误差分析校正的研究,东北师范大学出版社,2017.09,第260页

VC++实现七参数坐标转换:最小二乘法解算原理与工程实践 坐标转换是连接不同空间基准的核心技术,广泛应用于测绘、GIS、导航与工程测量领域。其基本原理是通过数学模型描述两个坐标系之间的几何关系,其中七参数布尔莎模型通过三个平移、三个旋转和一个尺度参数,精确刻画三维空间直角坐标系的转换关系。为实现最优参数估计,最小二乘法成为关键技术,它通过最小化观测值与模型预测值之间的误差平方和,求解出最可靠的转换参数,有效处理了测量数据中不可避免的随机误差。在工程实践中,利用VC++进行高效数值计算与矩阵运算,能够稳定解算七参数,并结合公共点数据进行精度评定与粗差探测,最终服务于 阅读详情

相关推荐

最小二乘法(校准电流)

在工程应用中,我们经常会用一组观测数据去估计模型的参数,模型是我们根据先验知识定下的。例如常见的直线模型就是y=ax+b。但实际应用生活中,往往找不到一条直线可以经过所有数据,如下图。针对找不到唯一的a和b去组成直线模型,即方程无解,但我们需要根据未知来预测结果,那么就需要数据拟合。

m0_61973119的博客 878

【工程师学算法】工程常用算法(一)—— 最小二乘法

一个工程师能走多远,取决于他对数学工具掌握的深度。

ReadAir的专栏 5716

C++实现最小二乘法圆拟合:从数学推导到工程实践

曲线拟合是数据处理与计算机视觉中的基础技术,旨在从离散数据点中寻找最能代表其分布规律的数学模型。最小二乘法作为最经典的拟合方法,其核心原理是通过最小化误差平方和来求解模型参数,具有数学清晰、计算高效的特点。在工程实践中,该方法被广泛用于传感器数据处理、工业检测和逆向工程等领域,用于从带噪声的散乱点云中恢复几何特征。本文聚焦于圆拟合这一具体应用场景,详细拆解了将非线性圆方程转化为线性最小二乘问题的关键参数重整化技巧,并提供了可直接集成使用的C++实现代码,同时深入探讨了算法对离群点的敏感性、数值稳定性处理以及

weixin_30540691的博客 349

基于MATLAB的最小二乘法拟合与拟合工具箱使用教程(附完整代码与算法)

一. 最小二乘曲线拟合 给定一组数据满足某一函数模型,其中a为待定系数向量。 那么,最小二乘曲线拟合的目标就是:求出一组待定系数的值,使得以下表达式子最小: 在MATLAB中格式如下: [a,jm]=lsqcurvefit(Fun,a0,x,y) %Fun原型函数的MATLAB表示 %a0为最优化的初值 %x,y为原始输入输出的数据向量 %a为返回的待定系数向量 %jm为此待定系数下的目标函数的值 例题1 由以下MATLAB代码生成一组数据: x=0:.1:10; y=0.12*..

forest_LL的博客 7万+

从弹簧系统到电机控制:最小二乘法的物理直觉与工程实践

本文探讨了最小二乘法在电机控制中的物理直觉与工程实践,重点介绍了参数辨识技术。通过弹簧系统的类比,解释了最小二乘法的能量最小化原理,并详细分析了递推最小二乘法(RLS)在实时电机控制中的应用优势。文章还提供了PMSM电感辨识的实战经验,包括模型构建、数据预处理和实现优化,为工程实践提供了有价值的参考。

weixin_29188043的博客 272

C++与QT实现线段拟合:从最小二乘法到RANSAC的算法详解与工程实践

线性回归是数据分析与计算机视觉中的基础技术,其核心原理是通过数学模型寻找数据点之间的最佳线性关系,旨在最小化预测值与实际观测值之间的误差。在工程实践中,最小二乘法因其数学简洁和计算高效成为经典解决方案,它通过求解正规方程直接获得最优拟合参数。然而,现实数据常包含噪声和异常点,这催生了鲁棒拟合技术的需求。RANSAC算法通过随机采样和一致性检验,能有效抵抗异常值干扰,提升模型在复杂场景下的可靠性。这些技术广泛应用于工业测量、图形识别和传感器数据处理等场景。本文聚焦于使用C++高效实现这些核心算法,并结合QT框

weixin_29174013的博客 221

最小二乘法(Least Squares Method):从数学原理到工程实践

本文系统阐述了最小二乘法(Least Squares Method)从数学原理到工程实践的全过程。文章从直观理解入手,详细推导了线性模型的正规方程,并介绍了矩阵解法、QR分解、SVD等数值计算方法。同时,深入探讨了加权最小二乘、正则化(岭回归、Lasso)等高级变体,并结合传感器校准、相机标定、SLAM等实际案例,展示了其在解决工程问题中的核心价值与具体应用。

weixin_29054195的博客 342

基于加权最小二乘法的相位解包裹算法工程实践

在干涉测量、数字全息与合成孔径雷达等应用中,相位信息常被截断在[-π, π)区间,形成锯齿状包裹相位。要从包裹相位中恢复连续的真实相位场,直接积分法易受噪声和残差点影响,产生路径依赖。加权最小二乘法通过构造权重矩阵,对可靠区域赋予高权重、对低质量区域降低话语权,将问题转化为求解加权离散泊松方程,从而在全局最优意义上实现噪声抑制与空洞处理。该方法兼具经典最小二乘的稳定性与路径跟踪法的灵活性,适合中等规模数据。工程实践中需注意差分包裹、正则项设计、权重构造策略及共轭梯度求解器的预条件选择。结合具体代码与调试案例

weixin_32678995的博客 320

最小二乘法推导及求解

本文主要简述了最小二乘法的定义、推导和求解,并通过python代码的方式展示了最小二乘法的矩阵求解方式。

qq_43016560的博客 1万+

最小二乘法计算工具,支持64个点,精度double

最小二乘法计算工具以及源代码均在压缩包内,可以处理64个点,精度double,输入end可以停止输入,

最小二乘法计算器

一款可以帮助开发者方便进行最小二乘相关计算的软件,非常方便

直线拟合工程实践:最小二乘法、梯度下降与高斯牛顿法对比

在数据分析与工程建模中,线性回归是揭示变量间关系的基础技术,其核心是通过拟合直线或曲线来最小化预测误差。从原理上看,关键在于定义并优化损失函数,最经典的准则是最小二乘法,它通过最小化残差平方和来寻找最优参数解,具有明确的统计意义。在技术实现层面,对于标准线性问题,可直接求解正规方程;面对大规模数据或在线学习场景,梯度下降法以其迭代优化和分批处理能力展现出优势;而当模型本身为非线性时,高斯牛顿法通过局部线性化迭代求解,成为曲线拟合的利器。这些方法在机器视觉定位、传感器标定和金融预测等场景中价值显著,例如处理带

weixin_30219613的博客 339

最小二乘法计算实用工具

本工具是我根据我及我的同事在实际工程应用中的需要,利用Delphi和Access数据库编写的最小二乘法曲线拟合工具。本工具可方便地对所测量的数据进行最小二乘法曲线拟合,并给出拟合系数、最小均方根差,同时显示其拟合曲线。该工具也可以存储拟合原始数据和系数。由于本工具较简单,并且本人工作较忙,因而未能制作帮助文件和安装程序,请各位见谅。

C++实现最小二乘法直线拟合:从原理到工程实践

线性回归是数据分析与机器学习中最基础且核心的模型之一,其核心目标是通过拟合一条直线来描述两个变量之间的线性关系。最小二乘法是实现这一目标的标准方法,其原理是通过最小化预测值与实际值之间残差的平方和,来求解最优的斜率和截距参数。这项技术在工程上具有重要价值,广泛应用于传感器数据校准、实验数据分析、图像处理中的边缘检测以及金融趋势预测等场景。本文以C++工程实践为核心,深入探讨了最小二乘法的数学推导,并详细介绍了如何高效、稳定地实现核心算法,同时针对数值稳定性、异常值处理(鲁棒拟合)以及大规模数据下的性能优化等

WGH100817的博客 492

Centos7搭建OpenStack+创建iaas云主机

主要说明在控制节点和计算节点上,通过脚本的形式,安装OpenStack的iaas安装步骤和创建可运行的云主机。提供实施简单、可大规模扩展、丰富、标准统一的云计算管理平台。

weixin_48218106的博客 1万+

第二章-Ethernet/IP基本概念

在I/O连接中,一旦连接建立,就不会有请求-响应数据,只会按照连接建立时指定的生产触发器所确定的时间间隔生产和消耗带有ConnectionID的数据。连接是通过连接管理器对象的Forward请求服务建立的,ForwardOpen请求包含所有连接参数,包括传输类、生产触发器、定时信息、电子密钥和连接ID。I/O适配器:I/O适配器从I/O扫描器接收隐式通信连接请求,然后以请求的速率生成I/O数据。I/O扫描器:启动与I/O适配器的隐式通信,需要处理连接的配置以及如何配置适配器。扫描器还支持启动显式报文。

_Nooice的博客 1233

最小二乘法深度解析:从直线拟合到工程实践

最小二乘法是数据拟合与回归分析的核心算法,其本质是通过最小化残差平方和寻找最优参数。从一元线性回归的斜率截距推导,到多元场景下的正规方程求解,该方法以闭式解实现高效拟合,为机器学习线性模型奠基。在传感器校准、实验数据拟合及多项式回归中广泛应用。理解平方损失背后的统计假设与工程权衡,是掌握模型诊断与稳健优化的关键。

weixin_34124651的博客 238

老司机避坑指南:UC3842自举驱动电路发热严重?这样选C39/C37电容值最稳

本文针对UC3842自举驱动电路发热严重的问题,深入剖析了驱动波形边沿速度与损耗的矛盾根源。通过实测数据与热成像分析,重点阐述了关键电容C39/C37的选型策略,提供了从经验公式到量化计算的优化方法,帮助工程师在发热与效率间找到最佳平衡点,并探讨了分立方案与专用驱动IC的适用场景。

lambda的博客 747

最小二乘法拟合一元一次方程:原理、Python实现与工程实践

在数据分析与工程标定中,经常需要从离散的实测点中提取规律,建立形如 y = ax + b 的线性模型。最小二乘法作为一种经典的参数估计方法,通过最小化误差平方和来确定斜率和截距,其数学原理基于凸函数极值条件与正规方程组,在噪声服从正态分布时等价于最大似然估计。该方法不仅适用于实验曲线拟合与传感器标定,还可扩展至滑动窗口滤波、趋势预测等场景。实践中,需注意自变量去中心化、异常值识别与残差诊断,避免数值精度问题导致拟合结果失真。本文结合手算过程与 Python 代码示例,系统讲解从公式推导到工程落地的完整路径,

weixin_42613501的博客 226

手把手教你用8位单片机IO口直接驱动WS2812灯带(附完整代码和避坑指南)

本文详细介绍了如何使用8位单片机IO口直接驱动WS2812灯带,包括硬件准备、时序生成、色彩引擎与特效算法的实现,以及调试技巧与性能优化。通过汇编语言优化和精确时序控制,实现高效的LED驱动和炫酷的彩虹灯效,适合嵌入式开发者和硬件爱好者参考。

weixin_42696271的博客 304

告别转换超时!手把手教你用Allegro2Altium.bat搞定AD21导入Allegro 17.2文件

本文详细介绍了如何使用Allegro2Altium.bat工具解决AD21导入Allegro 17.2文件时的转换超时问题。通过理解转换机制、准备离线环境、执行完整转换流程及高级技巧,帮助工程师高效完成PCB设计文件转换,提升工作效率。

weixin_30378623的博客 420

最小二乘法公式推导:从标量到矩阵形式及工程实践

线性回归和曲线拟合中,最小二乘法是基础方法,但很多人只知公式不知原理。其核心是通过最小化残差平方和来寻找最佳拟合,平方运算既消除符号又保证可导性,高斯-马尔可夫定理则提供了理论最优性支撑。在工程实践中,矩阵形式通过正规方程给出解析解,但直接求逆数值不稳定,推荐使用QR分解或SVD。理解从标量推导到矩阵表达的完整过程,能帮助工程师在传感器标定、数据拟合等场景中避免常见陷阱,并为岭回归等进阶方法打下基础。

weixin_34389926的博客 400

毫米波雷达SLAM实战:如何在无GPS的地下隧道实现精准三维建图(附Python代码)

本文深入探讨了在无GPS信号的地下隧道等拒止环境中,如何利用毫米波雷达SLAM技术实现精准三维建图。文章系统分析了毫米波雷达点云数据稀疏、噪声多的挑战,并提供了从环境配置、核心算法(如特征提取、ICP配准、回环检测)到全局优化的完整实战解决方案,附有可运行的Python代码,帮助开发者构建鲁棒的自主导航与建图系统。

t8u9v0w1x的博客 238

C#实现最小二乘法:从数学原理到工程实践

在数据处理与机器学习领域,线性回归是揭示变量间关系的基础模型,其核心是通过拟合找到数据背后的规律。最小二乘法作为实现线性回归的经典数学原理,通过最小化误差平方和来求解最优参数,确保了模型的精确性与数值稳定性。这一方法在预测分析、趋势拟合等场景中具有极高的技术价值,是金融分析、科学实验和商业智能等应用的基石。本文聚焦于C#环境下的工程实现,详细解析了从一元到多元线性回归的完整代码方案,并深入探讨了使用MathNet.Numerics库处理数值稳定性、多重共线性等热词问题,以及通过残差分析评估模型效果的实践技巧

weixin_30843121的博客 223

Vision 机器视觉案例 之 零件边缘缺陷检测

缺陷检测工具

机器视觉李小白的博客 1385

使用 MATLAB/Simulink 来构建一个基于多能互补的微电网储能系统模型

【摘要】本文详细介绍了基于MATLAB/Simulink的多能互补微电网储能系统建模方法。教程涵盖光伏发电、风力发电、电池储能和负荷模块的搭建,重点讲解了能量管理系统(EMS)的调度策略实现。通过设置传感器监测关键参数,并采用固定步长离散求解器进行仿真,分析了系统在动态工况下的响应特性,包括发电-负荷平衡、储能状态变化及系统稳定性等指标。该建模方法为多能互补微电网的设计与优化提供了有效工具,对提升可再生能源利用效率具有实践指导意义。

MHD0815的博客 190
上一篇: serialplot串口数据的波形显示|虚拟示波器
下一篇: 超全面的GD32F4XX的ADC配置
飞鸟o
博客等级 码龄3年 1093粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值