L1 损失函数和 L2 损失函数

最新推荐文章于 2025-04-25 15:48:13 发布
最新推荐文章于 2025-04-25 15:48:13 发布
阅读量9.7k 收藏 33
点赞数 5
分类专栏： 深度学习知识点笔记 文章标签： L1 损失函数和 L2 损失函数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/nanhuaibeian/article/details/103296933
版权
L1和L2损失函数是机器学习中衡量预测误差的标准。L1损失函数通过最小化绝对偏差进行误差求和，而L2损失函数则涉及平方差的总和。通常，L2损失函数是首选，但在存在异常值的情况下，L1损失函数更具优势，因为它对异常值不敏感。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

L1 和 L2 是机器学习中的两个损失函数，用于最小化误差。

L1 损失函数代表最小绝对偏差，也称为 LAD

L2 损失函数代表最小二乘误差，也称为 LS

文章目录

一、L1 损失函数

L1损失函数用于最小化误差，该误差是真实值和预测值之间的所有绝对差之和。
在这里插入图片描述

二、L2 损失函数

L2损失函数用于最小化误差，该误差是真实值和预测值之间所有平方差的总和
在这里插入图片描述

三、如何确定L1 和 L2 损失函数

通常，在大多数情况下，首选L2损失函数。
但是，当异常值出现在数据集中时，则L2损失函数的效果将不佳。这种糟糕的性能背后的原因是，如果数据集具有异常值，则由于考虑了平方差&#x

了解本专栏 订阅专栏 解锁全文
AI笔记: 损失函数之L1损失、L2损失、Huber损失
Wang的专栏
04-10 2507
损失函数 之前我们知道预测残差和残差平方和，在机器学习中，我们用专门的术语叫损失函数(loss function)度量样本真实值与模型预测值之间差异 如果我们采用残差平方来作为你的损失函数的话，那我们把它称之为L2损失, 记为：L(y,y^)=(y−y^)2=r2L(y, \hat{y}) = (y - \hat{y})^2 = r^2L(y,y^​)=(y−y^​)2=r2 L表示loss，损...
【深度学习基础知识 - 01】L1和L2损失函数的区别
yanyuxiangtoday的博客
08-18 1万+
机器学习、深度学习任务中经常提到L1和L2损失的概念，在这里简单介绍一下它们的基础概念以及区别。 基础概念 L1损失函数又称为MAE(mean abs error)，即平均绝对误差，也就是预测值和真实值之间差值的绝对值。 L2损失函数又称为MSE(mean square error)，即平均平方误差，也就是预测值和真实值之间差值的平方。 相同点 因为计算的方式类似，只有一个平方的差异，因此使用的场合都很相近，通常用于回归任务中。 差异 L2没有L1鲁棒，直观来说，L2会将误差平方，如果误差大于1，
神经网络基础[损失函数,bp算法,梯度下降算法 ]
最新发布
weixin_44579176的博客
04-25 1094
神经网络的损失函数构建,反向传播算法和梯度下降算法的原理
L1和L2损失
weixin_43837522的博客
01-24 1113
因此，在不同的情况下，我们可以根据具体的需求选择使用L1损失还是L2损失。L2损失 = ((10-12)^2 + (20-18)^2 + (30-28)^2 + (40-41)^2) / 4 = (4 + 4 + 4 + 1) / 4 = 3.25。L1损失 = (|10-12| + |20-18| + |30-28| + |40-41|) / 4 = (2 + 2 + 2 + 1) / 4 = 1.75。相比于L1损失，它对异常值的影响较小，因为平方会放大较大的误差，使得模型对异常值更加鲁棒。
L1和L2损失函数
gy_Rick的博客
07-09 1万+
L1和L2损失函数 文章目录L1和L2损失函数简介L1 损失函数L2 损失函数一个例子代码最后 简介 最近参加了某高校的夏令营面试，被问到一个基础的损失函数的概念，发现自己对于模式识别的掌握可以说不能再皮毛了。夏令营估计是凉了，还是老老实实总结经验好好学习为好，别搞那么多花里胡哨了。 L1 损失函数 说明：下面矩阵的维度使用规则 行 --> 维度，列 --> 样本数 L1 损失函数也叫平均绝对值误差（MAE），不妨设标签为 Y=(y1,y2,...ym)1×mY = (y1, y2, ...
初入损失函数L1、L2损失函数
m0_52370934的博客
05-30 1258
引言：本文会说一些关于发生在L1、L2损失函数相关的事情，首先，L1、L2损失函数 1.L1损失函数 L1损失函数又称为平均绝对值误差（Mean Absolute Error,MAE ，损失函数）公式如下所示： 根据上式对真实值y求导，不难得出L1损失函数的梯度函数，如图所示： L1损失函数简化版 L1损失函数倒数 2.L2损失函数 L2损失函数又称为均方差，其公式如下： 根据上式对真...
L1损失函数和L2损失函数
06-02
L1损失函数和L2损失函数是常用的用于回归问题的损失函数。 L1损失函数也被称为绝对值损失函数，它的定义为真实值与预测值之间差值的绝对值之和。L1损失函数的优点是对异常值（outlier）不敏感，但缺点是不可导，...
详细介绍一下L1损失函数、L2损失函数和角度损失函数
04-14
L1损失函数和L2损失函数都是常见的损失函数之一，用于衡量模型预测值与真实值之间的差距。 L1损失函数计算预测值与真实值之间的绝对差值，即预测值与真实值之差的绝对值的总和。L1损失函数在处理具有异常值的数据时...
L1损失函数与L2损失函数
weixin_44906284的博客
09-30 351
【深度学习】L1损失、L2损失、L1正则化、L2正则化
码农努力学习
01-18 2017
稀疏性：很多参数值为0LLWλ∑i1p∣wi∣∂L∂wi∂LW∂wiλ⋅signwiwiwi−lr∗∂L∂wj−lr∗λsignwiLLWλi1∑p​∣wi​∣∂wi​∂L​∂wi​∂LW​λ⋅signwi​wi​wi​−lr∗∂wj​∂L​−lr∗λsignwi​∂LW∂w。
L1损失（MAE）、L2损失（MSE）
热门推荐
Drug discovery
06-05 3万+
目录 均绝对误差(L1Loss) 均方误差MSE (L2 Loss) MSE和MAE的选择 总结 均绝对误差(L1Loss) 均绝对误差（Mean Absolute Error,MAE) 是指模型预测值f(x)和真实值y之间距离的均值，其公式如下： 忽略下标i，设n=1，以f(x)−y为横轴，MAE的值为纵轴，得到函数的图形如下： MAE曲线连续，但是在y−f(x)=0处不可导。而且 MAE 大部分情况下梯度都是相等的，这意味着即使对于小的损失值，其梯度也是大的。这不利于函数的收敛...
【损失函数】深度学习回归任务中你必须了解的三种损失函数，绝对误差损失（L1 Loss、MAE）均方误差损失（L2 Loss、MSE）以及平滑L1损失（Huber Loss）（2024最新整理）
Next_SummerAgain的博客
01-04 1万+
是预测值和真实值之差的绝对值的总和。其中，是样本数量，是第个样本的真实值，是第个样本的预测值。
【深度学习】L1、L2损失 和 L1、L2正则化
u011754972的博客
08-29 3754
损失函数： L1损失：即平均绝对误差（MAE）：MAE = 1/n*∑ | yi - yi^ | L2损失：即均方误差（MSE）：MSE = 1/n*∑ (yi - yi^ )^2 正则化： L1正则化：即对权重矩阵的每个元素绝对值求和，λ * ||W|| L2正则化：即对权重矩阵的每个元素求平方和（先平方，后求和），1/2 * λ * ||W||^2 注意：正则化项不需要求平...
【回归损失函数】L1（MAE）、L2（MSE）、Smooth L1 Loss详解
Roaddd的博客
03-14 2万+
1. L1 Loss（Mean Absolute Error，MAE）        平均绝对误差（MAE）是一种用于回归模型的损失函数。MAE 是目标变量和预测变量之间绝对差值之和，因此它衡量的是一组预测值中的平均误差大小，而不考虑它们的方向，范围为 0~∞。 MAE公式如下： 导数： MAE图像如下： 主要问题：        导数为常数，在 Loss 函数最
常用损失函数总结（L1 loss、L2 loss、Negative Log-Likelihood loss、Cross-Entropy loss、Hinge Embedding loss、Margi）
weixin_38353277的博客
05-05 3813
常用损失函数总结（L1 loss、L2 loss、Negative Log-Likelihood loss、Cross-Entropy loss、Hinge Embedding loss、Margi）
实现L1和L2损失函数
It is me 的博客
08-01 377
import numpy as np def L1(yhat, y): loss = np.sum(np.abs(y - yhat)) return loss def L2(yhat, y): loss =np.sum(np.power((y - yhat), 2)) return loss #调用 yhat = np.array([0.1, 0.2, 0.3, 0.4, 0.5]) y = np.array([1, 1, 0, 1, 1]) prin...
【损失函数：1】L1、L2、SmoothL1（附Pytorch实现）
NorthSmile的博客
09-25 8937
作者自己是做图像去雾的，平常也会看一些其他的图像恢复方向的文章，比如图像去噪、图像增强、图像去模糊以及图像超分辨等。我们知道损失函数决定了网络训练目标，对于一个任务最后可以实现的功能影响很大，这里我就想把我见过的一些损失函数进行记录，供大家学习参考。
L1和L2损失函数的区别
qq_41327049的博客
03-21 746
误差处理方式：L1损失函数计算的是模型预测值与真实值之间的绝对误差的平均值，而L2损失函数计算的是这些误差的平方的平均值。而L2损失函数则会对误差进行平方处理，这意味着较大的误差会被放大，从而在损失函数中产生更大的影响。对异常值的敏感性：由于L1损失函数取的是绝对误差，因此它对异常值（即远离其他数据点的值）的惩罚是固定的，不会被放大。而L2损失函数在异常值出现时，由于其平方特性，会导致损失函数值变得非常大，从而可能使模型训练受到异常值的强烈影响。因此，当数据集中存在异常值时，L1损失函数通常更为鲁棒。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

南淮北安

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值