最小二乘

最新推荐文章于 2024-01-20 15:51:54 发布

原创最新推荐文章于 2024-01-20 15:51:54 发布 · 666 阅读

·

0

·

CC 4.0 BY-SA版权

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

数学基础专栏收录该内容

18 篇文章

订阅专栏

博客介绍了线性最小二乘可用于求模型拟合，如直线、平面拟合等，且模型方程须为线性。以直线拟合为例，因噪声存在，有大量采样点时不能随意取点解方程，最好用最小二乘解，还给出了方程的矩阵形式及误差定义。

一：线性最小二乘

线性最小二乘可以用来求模型的拟合等，例如，直线，平面拟合等。但总归说来模型方程必须是线性的。例如直线拟合中

直线为 $y = ax + b$ 为了模拟该直线，我们采样了n组点（比如100组），分别记录了他们的坐标。我们知道该直线方程只需要三组点就可以解出参数。但是由于噪声的存在，我们有100组点，不能随意的取三组，然后解方程。那么最好的办法就是最小二乘解。

假设我们已经知道直线参数a', b'。对于方程y = ax + b ,现在未知数是a和b，所以我们将方程写成矩阵的形式如下：

$\begin{bmatrix} x & 1 \end{bmatrix} \begin{bmatrix} a\\ b \end{bmatrix} = {} \begin{bmatrix} y \end{bmatrix}$ , 由于这里x, y是已知数，所以我们转换下未知数的表达，我们用向量X 表示未知数a, b。用向量A 表示系数矩阵，用未知数b表示观测值y的向量。

则方程为 AX = b; A 是100x2 矩阵，X 是2x1列向量，b是100x1列向量。定义误差为 e = b - AX,所以最优的参数值应该是符合以下公式

$min((b-AX)^{T} (b-AX)))$

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。