线性拟合——从最大似然估计到平方误差到huber loss

最新推荐文章于 2025-04-10 20:04:59 发布

阿拉斯加的狗

最新推荐文章于 2025-04-10 20:04:59 发布

阅读量774

点赞数 1

CC 4.0 BY-SA版权

本文链接：https://blog.youkuaiyun.com/hftytf/article/details/87935774

本文探讨了线性拟合的基本概念，通过最大似然估计和平方误差损失函数进行模型建立，并引入Huber损失以处理异常值。通过实例和可视化帮助理解。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

分享一下我老师大神的人工智能教程。零基础！通俗易懂！风趣幽默！还带黄段子！希望你也加入到我们人工智能的队伍中来！https://blog.youkuaiyun.com/jiangjunshow

考虑这样一些数据：

x = np.array([0,  3,  9, 14, 15, 19, 20, 21, 30, 35,              40, 41, 42, 43, 54, 56, 67, 69, 72, 88])                                  # x

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

阿拉斯加的狗

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

动手学深度学习V2.0(Pytorch)——9.softmax回归

啷个哩个啷

08-13

468

https://www.bilibili.com/video/BV1K64y1Q7wu/?spm_id_from=autoNext

曲线拟合最小二乘法优缺点_在进行线性回归时，为什么最小二乘法是最优方法？...

weixin_39979489的博客

12-21

7227

最小二乘法不永远是最优的方法。对于不同数据形式和建模需求，需要能自行选择合适的建模方式。本文会对比最小二乘法(MSE)和最小绝对值法(MAE)来比较两者的性质。两者定义我们首先来理清楚最小二乘法和最小绝对值法分别是什么。它们都是用来衡量线性回归模型效果的方式。不同的是，最小二乘法(MSE, Mean Square Error)将误差的平方求和，而最小绝对值法(MAE, Mean Absolute ...

参与评论您还未登录，请先登录后发表或查看评论

拟合一条曲线_最大似然估计法拟合logistic回归曲线

weixin_31898831的博客

01-13

3255

引言：在前面的学习中，我们了解到logistic回归与线性回归很很多共同的特征。但是我们也知道logistic回归有一个显著不同的特征，即logistic回归中的y轴坐标轴经过logit函数转换。在这一小节中，我们来了解在logistic回归中如何拟合一条最佳直线。1. 最小二乘法与线性模型回顾线性模型基于残差平方和最小拟合最佳回归直线，参考：最小二乘法与线性回归。2. ...

多项式拟合：鲁棒学习-Huber损失最小化

Taosy

08-14

1561

clear; clc; n = 10; N = 1000; x = linspace(-3, 3, n)'; X = linspace(-4, 4, N)'; rng('default'); y = x + 0.1*randn(n,1); y(n) = -4; % 异常值 p(:, 1) = ones(n, 1); p(:, 2) = x; t0 = p\y; % 计...

李航《统计学习方法》第一天之过拟合与泛化误差，极大似然估计和贝叶斯估计

fenmeibei0223的博客

04-02

660

写在前面：《统计学习方法》各章节代码实现与课后习题参考解答 https://blog.youkuaiyun.com/breeze_blows/article/details/85469944 1.、过拟合概念：过拟合简单的说来就是就是训练出来的模型在训练集上表现很好，但是在测试集上表现较差的一种现象！模型出现过拟合现象的原因：发生过拟合的主要原因可以有以下三点：（1）数据有噪声意思就是把...

概率论入门：最大似然

Lemon的博客

12-09

3046

什么是参数在机器学习中，我们经常使用模型描述从数据中观测结果的过程。例如，我们可能使用随机森林模型来分类客户是否会退订某项服务（称为客户翻转），也可能使用线性模型来基于广告开销预测利润（这将是线性回归的一个例子）。每个模型都包含各自的参数集合，参数集合最终定义了模型是什么样的。我们可以用y = mx + c来表示线性模型。在这个例子中，x可能表示广告开销，y可能表示产生的利润。m和c是这个...

线性回归中最大似然法的理解

weixin_43909872的博客

12-26

2851

线性回归中使用最大似然法的文章蛮多的，这两天看了一些，总觉得有些“跳跃”的地方让人难以理解，现在把整个过程记录下来以便日后查阅，好记性不如烂笔头。。。关于最大似然法已经写了一篇了： https://blog.youkuaiyun.com/weixin_43909872/article/details/85255130 线性回归：这里只分析一个independent variable（x轴）的情况，我们有...

Sklearn官方文档中文整理1——监督学习之广义线性模型篇

qq_42946328的博客

12-25

983

Sklearn官方文档中文整理1. 监督学习1.1 线性模型Linear Models1.1.1 普通最小二乘法Ordinary Least Squares1.1.2. 岭回归和分类Ridge regression and classification1.1.2.1. 回归Regression1.1.2.2. 分类Classification1.1.2.3. 设置正则化参数：广义交叉验证1.1.3. Lasso 1. 监督学习 1.1 线性模型Linear Models 1.1.1 普通最小二乘法Ordi

机器学习之神经网络（从神经网络结构到pytorch基本用法）

Lin_w_x的博客

11-19

3785

机器学习神经网络

直线拟合原理详解

我的博客

11-11

1216

本文围绕fitLine()函数，介绍了极大似然估计和迭代计算在直线拟合中的使用方法，更好地明白底层原理，便于在解决实际问题的过程中，心中自有丘壑，选择更好的方法，达到更好的效果

OpenCV学习笔记-直线拟合

云中寻雾的博客

05-27

3444

Hough 变换可以提取图像中的直线。但是提取的直线的精度不高。而很多场合下，我们需要精确的估计直线的参数，这时就需要进行直线拟合。直线拟合的方法很多，比如一元线性回归就是一种最简单的直线拟合方法。但是这种方法不适合用于提取图像中的直线。因为这种算法假设每个数据点的X 坐标是准确的，Y 坐标是带有高斯噪声的。可实际上，图像中的每个数据点的XY 坐标都是带有噪声的。下面就来讲讲适...

鲁棒最小二乘法拟合圆

lipeng19930407的博客

12-22

501

首次拟合圆得到采用的上述blog中的 Kåsa Fit 方法。该方法存在干扰点时，拟合得到的结果会被干扰。

0006_拟合

ymj7150697的专栏

09-09

512

拟合的一般步骤： 1. 采集图像 2. 预处理，去燥、抠图 3. 边缘提取 4. 分割轮廓（或者联合轮廓） 5. 拟合 6. 或者进行距离的计算、或者显示拟合的三个重要函数（直线、椭圆、圆） //拟合直线 fit_line_contour_xld Contours：输入轮廓 Algorithm：拟合直线的算法 MaxNumPoints：用于计算的最大轮廓点数，-1表...

最小二乘与极大似然估计

卢平光的博客

04-15

5644

两者思想的差异最小二乘估计与极大似然估计都是用来样本值来估计真实值的，之所以需要估计，是因为用数学量化真实世界事物关系时总是存在误差。我们尽管痛苦的承认了有不能解释的误差，但是我们依然想尽可能的让这种『不被解释』的误差程度最小，于是我们就想最小化区种不被解程的程度。因为点可能在线的上面或者下面，故而距离有正有负，取绝对值又大麻烦，于是我们就直接把每个距旁都取一个平方变成正的，然后试图找出一个距离所有点的距离的平方最小的这条线这就是最小二乖法°、了，简单粗暴而有效。而极大似然则更加的有哲

凸优化第六章逼近与拟合 6.1范数逼近

清风吹斜阳

02-13

3234

6.1范数逼近基本的范数逼近问题罚函数逼近基本的范数逼近问题其中，且是一种范数。范数逼近问题的解有时又被称为在范数的近似解。表示问题的残差。解释：（1）几何解释：在A的列空间上找到一个在范数下离b最近的点。（2）估计的解释：假设y=Ax+v，y是测量值，v是噪声，x是待估计的参数向量。给定y=b，找到最好的估计值，使得最小。（3）设计的解释：x是设计变量，...

Huber Loss：线性回归的“抗干扰神器”