线性拟合——从最大似然估计到平方误差到huber loss

线性拟合与损失函数

最新推荐文章于 2024-11-11 01:59:06 发布

原创

最新推荐文章于 2024-11-11 01:59:06 发布 · 809 阅读

0 ·

CC 4.0 BY-SA版权

本文探讨了线性拟合的基本概念，通过最大似然估计和平方误差损失函数进行模型建立，并引入Huber损失以处理异常值。通过实例和可视化帮助理解。

分享一下我老师大神的人工智能教程。零基础！通俗易懂！风趣幽默！还带黄段子！希望你也加入到我们人工智能的队伍中来！https://blog.youkuaiyun.com/jiangjunshow

考虑这样一些数据：

x = np.array([0,  3,  9, 14, 15, 19, 20, 21, 30, 35,              40, 41, 42, 43, 54, 56, 67, 69, 72, 88])                                  # x

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

阿拉斯加的狗

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

动手学深度学习V2.0(Pytorch)——9.softmax回归

啷个哩个啷

08-13

581

https://www.bilibili.com/video/BV1K64y1Q7wu/?spm_id_from=autoNext

曲线拟合最小二乘法优缺点_在进行线性回归时，为什么最小二乘法是最优方法？...

weixin_39979489的博客

12-21

7338

最小二乘法不永远是最优的方法。对于不同数据形式和建模需求，需要能自行选择合适的建模方式。本文会对比最小二乘法(MSE)和最小绝对值法(MAE)来比较两者的性质。两者定义我们首先来理清楚最小二乘法和最小绝对值法分别是什么。它们都是用来衡量线性回归模型效果的方式。不同的是，最小二乘法(MSE, Mean Square Error)将误差的平方求和，而最小绝对值法(MAE, Mean Absolute ...

参与评论您还未登录，请先登录后发表或查看评论

多项式拟合：鲁棒学习-Huber损失最小化

Taosy

08-14

1601

clear; clc; n = 10; N = 1000; x = linspace(-3, 3, n)'; X = linspace(-4, 4, N)'; rng('default'); y = x + 0.1*randn(n,1); y(n) = -4; % 异常值 p(:, 1) = ones(n, 1); p(:, 2) = x; t0 = p\y; % 计...

李航《统计学习方法》第一天之过拟合与泛化误差，极大似然估计和贝叶斯估计

fenmeibei0223的博客

04-02

675

写在前面：《统计学习方法》各章节代码实现与课后习题参考解答 https://blog.youkuaiyun.com/breeze_blows/article/details/85469944 1.、过拟合概念：过拟合简单的说来就是就是训练出来的模型在训练集上表现很好，但是在测试集上表现较差的一种现象！模型出现过拟合现象的原因：发生过拟合的主要原因可以有以下三点：（1）数据有噪声意思就是把...

概率论入门：最大似然

Lemon的博客

12-09

3080

什么是参数在机器学习中，我们经常使用模型描述从数据中观测结果的过程。例如，我们可能使用随机森林模型来分类客户是否会退订某项服务（称为客户翻转），也可能使用线性模型来基于广告开销预测利润（这将是线性回归的一个例子）。每个模型都包含各自的参数集合，参数集合最终定义了模型是什么样的。我们可以用y = mx + c来表示线性模型。在这个例子中，x可能表示广告开销，y可能表示产生的利润。m和c是这个...

拟合一条曲线_最大似然估计法拟合logistic回归曲线

weixin_31898831的博客

01-13

3354

引言：在前面的学习中，我们了解到logistic回归与线性回归很很多共同的特征。但是我们也知道logistic回归有一个显著不同的特征，即logistic回归中的y轴坐标轴经过logit函数转换。在这一小节中，我们来了解在logistic回归中如何拟合一条最佳直线。1. 最小二乘法与线性模型回顾线性模型基于残差平方和最小拟合最佳回归直线，参考：最小二乘法与线性回归。2. ...

线性回归中最大似然法的理解

weixin_43909872的博客

12-26

2930

线性回归中使用最大似然法的文章蛮多的，这两天看了一些，总觉得有些“跳跃”的地方让人难以理解，现在把整个过程记录下来以便日后查阅，好记性不如烂笔头。。。关于最大似然法已经写了一篇了： https://blog.youkuaiyun.com/weixin_43909872/article/details/85255130 线性回归：这里只分析一个independent variable（x轴）的情况，我们有...

回归任务误差函数选用准则：mae、mse与huber在传感器噪声下的3维评测

传感器采集的数据通常包含多种噪声成分，如热噪声、量化误差和外部干扰，这些噪声服从不同的统计分布，进而对误差函数的鲁棒性提出差异化要求。理解误差函数与噪声特性之间的内在耦合关系，是构建高精度、强抗扰回归...

卡尔曼滤波调参实战手册：从仿真到真实数据的7个高效整定技巧

卡尔曼滤波是一种最优线性递归估计器，广泛应用于动态系统的状态估计中。其核心思想是通过融合系统动力学模型预测与带有噪声的观测数据，实现对未知真实状态的最小均方误差估计。该滤波器基于高斯分布假设，利用...

直线拟合原理详解

最新发布

我的博客

11-11

1504

本文围绕fitLine()函数，介绍了极大似然估计和迭代计算在直线拟合中的使用方法，更好地明白底层原理，便于在解决实际问题的过程中，心中自有丘壑，选择更好的方法，达到更好的效果

Huber稳健估计

10-16

鲁棒估计中的Huber估计，C#源码，仅供参考

OpenCV学习笔记-直线拟合

云中寻雾的博客

05-27

3550

Hough 变换可以提取图像中的直线。但是提取的直线的精度不高。而很多场合下，我们需要精确的估计直线的参数，这时就需要进行直线拟合。直线拟合的方法很多，比如一元线性回归就是一种最简单的直线拟合方法。但是这种方法不适合用于提取图像中的直线。因为这种算法假设每个数据点的X 坐标是准确的，Y 坐标是带有高斯噪声的。可实际上，图像中的每个数据点的XY 坐标都是带有噪声的。下面就来讲讲适...

鲁棒最小二乘法拟合圆

lipeng19930407的博客

12-22

859

首次拟合圆得到采用的上述blog中的 Kåsa Fit 方法。该方法存在干扰点时，拟合得到的结果会被干扰。

0006_拟合

ymj7150697的专栏

09-09

559

拟合的一般步骤： 1. 采集图像 2. 预处理，去燥、抠图 3. 边缘提取 4. 分割轮廓（或者联合轮廓） 5. 拟合 6. 或者进行距离的计算、或者显示拟合的三个重要函数（直线、椭圆、圆） //拟合直线 fit_line_contour_xld Contours：输入轮廓 Algorithm：拟合直线的算法 MaxNumPoints：用于计算的最大轮廓点数，-1表...

直线拟合2

azhuazhu的专栏

02-25

2250

Opencv中的fitLine函数，实现了《直线拟合》一文中的总体最小二乘法拟合直线。 C++: void fitLine(InputArray points, OutputArray line, int distType, double param, double reps, double aeps) 参数说明： points：需要拟合的点； ...

稳健估计方法

m0_51327832的博客

04-10

3832

最小二乘法得到的估计量为 1.Huber回归估计量为其中，为预先给定的阈值。由上式可以看出，在残差绝对值小于阈值时，仍然采用平方损失。在残差绝对值大于阈值时，认为该数据值为异常值，通过绝对值损失来降低对应数据点的权重。平方损失可以得到无偏估计，但对于异常值敏感，而绝对值损

m估计及其c++简单实现

xinxiangwangzhi_的博客

02-25

2540

m估计理论与实现