常用损失函数类型 for 分类 or 回归问题

最新推荐文章于 2025-02-05 16:12:48 发布
原创 最新推荐文章于 2025-02-05 16:12:48 发布 · 172 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文详细介绍了0-1损失、Log损失、Hinge损失、指数损失和感知损失，以及回归中的平方损失、绝对损失和Huber损失。重点讲解了每种损失函数的定义、适用场景及转换形式，帮助理解机器学习模型训练的关键指标。

https://blog.youkuaiyun.com/google19890102/article/details/50522945

分类：
0-1损失
Log损失
Hinge损失
指数损失
感知损失

回归：
平方损失
绝对损失
Huber损失（在|f-y|小于某阈值时为平方损失，在|f-y|大于某阈值时为线性损失

《目标检测蓝皮书》附录 | 详解 【分类】【回归】【检测】【分割】 损失函数与性能指标
YOLOv8项目贡献者
07-16 4582
一文搞懂21种损失函数与24种评价指标！
【AI面试】分类损失横评：CrossEntropy Loss 、Balanced Cross Entropy、 Dice Loss 和 Focal Loss
钱多多先森
05-24 2254
分类损失学习汇总
目标检测之分类、回归和损失函数
DLUT_yan的博客
07-17 6464
一 、分类和回归 输出变量为有限个离散变量的预测问题成为分类问题； 输入变量与输出变量均为连续变量的预测问题是回归问题； 分类模型和回归模型本质一样，分类模型是将回归模型的输出离散化。 二 、分类和回归应用场景 1.回归问题的应用场景 回归问题通常是用来预测一个值，如预测房价、未来的天气情况等等，例如一个产品的实际价格为500元，通过回归分析预测值为499元，我们认为这是一个比较好的回归分析。一个...
pytorch常用损失函数
浩瀚之水的专栏
09-07 2903
L1Loss的公式可以表示为：其中，n 是样本数量，yi​ 是第 i 个样本的真实值，y^​i​ 是第 i 个样本的预测值，∣yi​−y^​i​∣ 是预测值与真实值之间差值的绝对值。MSELoss的数学表达式为：其中，n 是样本数量，yi​ 是第 i 个样本的真实值，y^​i​ 是第 i 个样本的预测值。公式中的求和操作（∑）表示对所有样本的损失进行累加，然后除以样本数量 n 以求得平均损失。SmoothL1Loss的公式可以表示为：其中，x 是预测值与真实值之间的差值。
逻辑回归：Sigmoid函数在分类问题中的应用
最新发布
do better.
02-05 1887
Sigmoid函数（Logistic函数）是机器学习中最经典的激活函数之一，是一个在生物学中常见的S型函数，也称为S型生长曲线。在信息科学中，由于其单增以及反函数单增等性质，常被用作神经网络的激活函数，将变量映射到0,1之间。σx11e−xexex1σx1e−x1​ex1ex​函数图像呈现典型的 “S−∞∞−∞∞01(0, 1)01对称性：关于点(0, 0.5)中心对称可导性：处处可导。
常用的损失函数合集
热门推荐
caip12999203000的博客
10-13 1万+
本文章从整理了计算机视觉常用的损失函数，分别从出处、原理、优缺点和代码实现几个方面进行编写。
【分类|回归】深度学习中的分类和回归？离散数据or连续数值？
985小水博的摸鱼日常
09-21 1561
【分类|回归】深度学习中的分类和回归？离散数据or连续数值？学习笔记！
多标签分类中的损失函数与评估指标
空字符
06-30 1239
各位朋友大家好，欢迎来到月来客栈。由于公众号推文不支持后续修订， 所以本文将同步推送至网站www.ylkz.life，欢迎大家关注！ 1 引言 在前面的一篇文章[1]中笔者介绍了在单标签分类问题中模型损失的度量方法，即交叉熵损失函数。同时也介绍了多分类任务中常见的评价指标及其实现方法[2]。在接下来的这篇文章中，笔者将会详细介绍在多标签分类任务中两种常见的损失评估方法，以及在多标签分类场景中的模型评价指标。 2 方法一 将原始输出层的softmax操作替换为simoid操作，然后通过计算输出层与标签之间的s
支持向量机回归fitrsvm函数应用
m0_60294312的博客
08-05 2572
与传统的回归方法不同，SVR的目标是找到一个在高维特征空间中最好地拟合数据的超平面。这个超平面可以用一个线性方程wx + b = 0来表示，其中w是法向量，b是位移项，x是样本点的特征向量。首先选择需要回归数据集，这是进行回归模型构建的基础，其次选择需要的核函数，以及是否交叉验证，是否选择超参数等等，后利用fitrsvm进行训练,以及参数选择。总体来说，SVR是一种强大的预测性工具，它可在各种复杂的数据集上实现高精度的预测，并在许多实际应用中取得了良好的效果。% 使用点表示法显示Mdl的属性。
唤醒手腕 - 人工智能 - 凸优化、损失函数、概率、激活函数、泛化拟合、回归分类 ···
唤醒手腕
06-14 973
特征、样本、数据集：特征是用来描述机器学习系统处理的对象或事件的特性。：样本是指我们从某些希望机器学习系统处理的对象或事件中收集到的已经量化的特征的集合。：数据集是指很多样本组成的集合。有时我们也将样本称为数据集中的数据点(Data Point) 。大部分机器学习算法可以被理解为在数据集上获取经验。监督学习算法 与 无监督学习算法：训练含有很多特征的数据集，不过数据集中的样本都有一个标签(Label)或目标(Target)。：训练含有很多特征的数据集，然后学习出这个数据集上有用的结构性质。监督的理解：监督学
损失函数一直不变_最牛损失函数解读： A General and Adaptive Robust Loss Function
weixin_39997795的博客
11-27 1977
↑ 点击蓝字关注极市平台作者丨Saptashwa Bhattacharyya、ronghuaiyang(译)来源丨AI公园编辑丨极市平台极市导读这篇论文提出了一种自适应的损失函数，并演示了它随着迭代次数的增加，最终找出最佳拟合线的过程。最近，我看到一篇由Jon Barron在CVPR 2019中提出的关于为机器学习问题开发一个了鲁棒、自适应的损失函数的文章。本文是对 A Genera...
极大似然估计法及其损失函数的优化方法
weixin_50348308的博客
05-25 1230
二分类、多分类极大似然估计法的推导与计算，手动实现softmax分类过程，重难点解决： 1、sofgmax的交叉熵损失函数求导（梯度计算） 2、独热编码的实现和逆解
算法工程师分析问题和解决问题的能力，以及落地能力
DecafTea的博客
05-23 1200
reference： 摘自机智的叉烧的知乎回答和微信推文 https://www.zhihu.com/people/ceng-guan-rong-72/answers https://mp.weixin.qq.com/s/xdJcQZgHUeGjZLzxUAp36g 1. NLP二分类任务，为什么各种模型最后的训练结果(F1,ACC)都相差甚微（使用Glove词向量）？ 1）分析问题：遇到问题首先，要知道症在哪，要知道的核心就在于你要足够理解病症问题，对于算法问题，大到看数据整体分布，看数据整体特点，小到看
医药知识图谱
DecafTea的博客
03-31 765
问答系统：
腾讯一面：BERT模型压缩，BERT变种，数据分桶
DecafTea的博客
03-23 579
BERT模型蒸馏有哪些方法？ https://blog.youkuaiyun.com/c9Yv2cf9I06K2A9E/article/details/109039823 BERT变种 https://blog.youkuaiyun.com/qq_39006282/article/details/107251957 数据分桶 https://blog.youkuaiyun.com/fang156239305/article/details/107315666/
4.8百度三面准备
DecafTea的博客
04-07 496
1. MAML原理讲解和代码实现 https://blog.youkuaiyun.com/weixin_42392454/article/details/109891791 Pretraining每次强调的都是当下这个模型能不能达到最优，而MAML强调的则是经过训练以后能不能达到最优。 MAML关注的是，模型使用一份“适应性很强的”权重，它经过几次梯度下降就可以很好的适用于新的任务。那么我们训练的目标就变成了“如何找到这个权重”。而MAML作为其中一种实现方式，它先对一个batch中的每个任务都训练一遍，然后回到这个
最大连续子数组和，最大连续子数组乘积
DecafTea的博客
03-24 340
最大连续子数组和 动态规划的是首先对数组进行遍历，当前最大连续子序列和为 sum，结果为 ans 如果 sum > 0，则说明 sum 对结果有增益效果，则 sum 保留并加上当前遍历数字 如果 sum <= 0，则说明 sum 对结果无增益效果，需要舍弃，则 sum 直接更新为当前遍历数字 每次比较 sum 和 ans的大小，将最大值置为ans，遍历结束返回结果 维护两个变量，在动态规划过程中，一个是tmp_sum即降维了的dp数组dp[i]， 一个是最终答案ans。 每个i都要记得更新一.
4.6滴滴一面复盘
DecafTea的博客
04-06 304
overfitting L1/L2的多种解释 ME、MAP LR SVM GBDT, xgBoost， adaboost 牛顿法 运筹、优化 强化学习 CNN为什么适用于处理图像 Attention在图像处理中的应用和作用
阿里一面准备：K-Means，PCA
DecafTea的博客
04-19 269
1. K-Means https://www.cnblogs.com/yoyowin/p/12023339.html K-means 聚类指的是把集合，分组成多个类，每个类中的对象都是彼此相似的。K-means是聚类中最常用的方法之一，它是基于点与点距离的相似度来计算最佳类别归属。 在使用该方法前，要注意（1）对数据异常值的处理；（2）对数据标准化处理（x-min(x))/(max(x)-min(x)）；（3）每一个类别的数量要大体均等；（4）不同类别间的特质值应该差异较大 K-means聚类步骤：
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值