损失函数进阶-应用和trick

最新推荐文章于 2025-05-04 17:09:25 发布
原创 最新推荐文章于 2025-05-04 17:09:25 发布 · 305 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-NC-SA 版权协议，转载请附上原文出处链接和本声明。

本文重点总结了损失函数在机器学习中的应用技巧，探讨了如何选择合适的损失函数，如交叉熵损失、平方误差损失和Hinge损失等，并强调了全局损失函数的概念，即通过最小化所有样本的损失函数之和来优化模型。

常见的损失函数，如交叉熵损失、平方误差损失、Hinge损失等并不是本文的重点，关于这些损失函数的介绍网上很多，可以参考如下几篇文章

本文的重点在于总结损失函数在应用上的一些trick和技巧

损失函数总结-应用和trick - 知乎


如何选择合适的损失函数，请看...... - 知乎

(23 封私信 / 99+ 条消息) 机器学习中的目标函数、损失函数、代价函数有什么区别？ - 知乎

 

 

上面的损失函数仅仅是对于一个样本来说的。而我们的优化目标函数应当是使全局损失函数最小。因此，全局损失函数往往是每个样本的损失函数之和，即：

 

NLP之Word2Vec：Word2Vec算法的简介(CBOW和Skip-Gram及其对比)、安装、使用方法之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
02-03 2177
​ NLP之Word2Vec：Word2Vec算法的简介(CBOW和Skip-Gram及其对比)、安装、使用方法之详细攻略 目录 Word2Vec算法的简介 Word2Vec的网络结构简介 Word2Vec的安装 Word2Vec的案例应用 推荐文章 NLP之NNLM：NNLM算法(词向量法的始祖)的简介、网络结构、案例应用之详细攻略 NLP：Word Embedding词嵌入/word2vec词向量思想方法(一种主流的分布式表示)的简介、使用方法、案例应用之详细攻略
YOLOv4-MaskDetection：使用YOLOv4进行遮罩检测
02-16
Yolov4用于遮罩检测 使用Darknet和OpenCVYolov4遮罩检测 目录 关于该项目 遮罩检测 入门 要启动并运行本地副本，请遵循以下简单步骤。 先决条件 这是一个如何列出使用软件所需的内容以及如何安装它们的示例。 * Python 3.x： * numpy pip install numpy * openCV 对于Window： : pip install opencv-python 对于Raspberry 4，出于对上帝的爱，请访问以下链接： : 安装 克隆仓库 git clone https://github.com/TienTruong98/Hackathon 设置迈来芯MLX90640的库 Check if the MLX90640 sensor is working correctly (see if the number 33 appear)
yolo-mask的损失函数l包含三部分_【AI初识境】深度学习中常用的损失函数有哪些（覆盖分类，回归，风格化，GAN等任务）？...
weixin_39967938的博客
11-24 608
这是专栏《AI初识境》的第11篇文章。所谓初识，就是对相关技术有基本了解，掌握了基本的使用方法。今天来说说深度学习中常见的损失函数(loss)，覆盖分类，回归任务以及生成对抗网络，有了目标才能去优化一个模型。 ...
yolo-mask的损失函数l包含三部分_IoU、GIoU、DIoU、CIoU损失函数的那点事儿
weixin_39719427的博客
11-21 1605
一、IOU(Intersection over Union)1. 特性(优点)IoU就是我们所说的交并比，是目标检测中最常用的指标，在anchor-based的方法中，他的作用不仅用来确定正样本和负样本，还可以用来评价输出框（predict box）和ground-truth的距离。 可以说它可以反映预测检测框与真实检测框的检测效果。还有一个很好的特性就是尺度不变性，也就是对尺度不敏感（scale...
YOLOv3_mask：YOLOv3实现口罩检测
02-14
YOLOv3_breath_mask 基于YOLOV3的口罩可以检测到2020年新型冠状病毒，针对公共场所检测人员是否放置口罩，故用YOLOV3完成一个人体口罩替代检测。 效果展示 环境 的Python： 3.7.4 Tensorflow-GPU 1.14.0 Keras： 2.2.4 最好用性能强的螺丝训练，不然会很慢，而且可能会跑停 数据集 [口罩检测数据集]需要准备已经标注好的口罩数据集.jpg与.xml对应breath_anchors.txt中是先验框对应的大小breath_classes.tst中是放置对应数据集的类别 训练 准备数据集 按照VOC数据集的格式来准备数据集，以及图片以及xml标签 VOCdevkit -VOC2007 ├─ImageSets # 存放数据集列表文件，由voc2yolo3.py文件生成 ├─Annotations # 存放图片标
【yolo】mask描边描线
AKA-BAO的博客
04-07 758
【代码】【yolo】mask描线。
TensorFlow入门-MNIST进阶-卷积神经网络CNN
CJJ的博客
01-08 1082
TensorFlow入门-MNIST进阶 前言 1、本文将介绍使用TensorFlow获取数据、构建网络、训练网络、测试网络的流程。 2、请先学习MNIST机器学习入门。 3、项目构建流程官方文档TensorFlow中文社区-MNIST进阶写得很简洁，并不能让人学习整个流程。建议边看官方文档构建项目。而本文详细解释了构建该项目需要的知识： 介绍卷积神经网络CNN、卷积、卷积核filter、池化p...
对数似然梯度技巧（Log-Likelihood Trick）
最新发布
Rhett_Butler0922的博客
05-04 1300
总结对数梯度技巧通过对数导数性质将期望梯度转化为可采样的形式，简化复杂优化问题。它在最大似然估计、变分推断、强化学习和黑盒优化（如离散提示学习）中有广泛应用。通过蒙特卡洛估计和方差缩减技术，对数梯度技巧实现了高效的梯度计算，特别适合黑盒场景。进阶学习建议数学深入学习概率论中的期望、条件期望和 Jensen 不等式。理解积分与求导交换的条件（Leibniz 积分法则）。研究信息论中的 KL 散度和 Fisher 信息矩阵。代码实践。
【PSO-SVM进阶玩法】：探索多目标粒子群优化在预测中的应用
!...# 1. 多目标粒子群优化算法概述 在现代计算领域，优化问题层出不穷，对于存在多个目标需要同时进行优化的问题，传统的单目标优化算法已不能满足需求。多目标粒子群优化（Multi-Objective Particle Swarm ...
Transformer进阶分解之Encoder-Decoder、Self-Attention
qq_53640005的博客
08-08 3146
Transformer进阶分解一、Encoder-Decoder1.1 简介1.2 结构1.3 缺点二、Attention Model2.1 Attention 注意力机制简介（一）Attention2.1.1 Attention 原理2.1.2 Attention 机制的本质思想2.1.3 Attention优缺点（二）Self-attention——attention的改进2.2.1 Self-attention原理 一、Encoder-Decoder 1.1 简介 Encoder-Decoder框架
yolo-mask的损失函数l包含三部分_大跨度连续三锥体屋面结构风压体型系数研究...
weixin_39975486的博客
11-24 765
点击蓝字关注我们胡习兵 康鑫 向思宇 张明亮 袁智深摘要：基于计算流体力学(CFD)理论，利用Fluent流体力学分析软件分别从三种不同风向角和四种屋面坡角对大跨度连续三锥体屋面结构进行数值模拟分析，得出该类屋盖表面局部风压系数分布情况，计算得出屋盖表面体型系数。通过归纳和总结，得出局部风压系数在不同风向角和屋面坡角下的变化规律与该类屋面结构的体型系数实用计算公式。通过与某工程的...
YOLO-MASK对图像数据集进行清洗
chenxiangrong的博客
05-06 1万+
一、前情介绍 之前在捣鼓yolo系列模型，尝试着对coco的羊数据集进行训练，可是发现不管怎么调参，Map一直在60几，死活上不了70。 后来在一位资深老算法师的指点下，才明白，精度很大程度取决于数据集，因此一直围绕着数据集进行优化，这篇博客大概记录了对脏数据的清洗方法。 二、下载模型 代码地址：https://github.com/AlexeyAB/Yolo_mark 因为该模型是使用了底层工具...
yolov7 mask 使用学习笔记
jacke121的专栏
09-26 3023
yolov7 mask 使用学习笔记
yolo自带标注工具yolo_mark下载及使用说明
热门推荐
qq_33485434的博客
06-06 1万+
官网写的比较详细，下载参考 https://github.com/AlexeyAB/Yolo_mark 双击运行windows命令脚本，而不是exe。 将要标注的样本路径，写入train.txt文件中 上面这个是obj.data文件中内容 train.txt内容...
剖析Focal Loss损失函数： 消除类别不平衡+挖掘难分样本 | 优快云博文精选
AI科技大本营
11-16 1233
作者 | 图像所浩南哥来源 | 优快云博客论文名称：《 Focal Loss for Dense Object Detection 》论文下载：https://arxiv.org/pdf/1708.02002.pdf论文代码：https://github.com/facebookresearch/Detectron/tree/master/configs/12_2017_baselines一、概...
YOLOv5屏蔽区域检测（选择区域检测，基于外部mask的方法以及内部位置设定的方法）
传统图像处理，深度学习，目标检测（分类，检测，分割），多目标追踪，部署等
08-25 3643
这段代码主要实现了两个功能，其中flag参数决定了我们是否使用mask掩膜对目标进行遮挡检测，reverse参数决定了我们是进行选择区域检测还是屏蔽区域检测（其实这两者是一个取反的操作）。思路就是通过一个mask掩膜，对我们想要屏蔽或者选择的区域进行遮挡处理，在推理的时候，将有mask掩膜的图像输入，将最后的结果显示在原始图像上，即完成了屏蔽区域检测。读入我们导出的mask图片文件，然后将其转成灰度图，然后使用opencv的阈值函数，将大于0的像素值全部变成255，其余的都为0，得到一张mask的二值图。
【YOLO】Mask Proto分支理解
浩瀚之水的专栏
04-21 368
Mask Proto分支通过解耦全局原型与实例参数，在保持YOLO实时性的同时实现精准分割。其技术核心在于利用多尺度特征生成可组合的原型，结合动态系数适应不同目标形态。未来可进一步融合Transformer的注意力机制，增强对复杂场景的建模能力。
YOLOv5屏蔽区域训练（选择区域训练，基于外部mask的方法以及内部位置设定的方法）
传统图像处理，深度学习，目标检测（分类，检测，分割），多目标追踪，部署等
08-28 1696
这里的红框就是我自己加的代码，通过bool型来判断是否需要进行mask以及mask的作用是屏蔽还是选择，而这些bool型变量已经在这篇博客的开始被我们定义好了，可以根据需求来排列组合。思路就是通过使用一个mask掩膜，对我们想要屏蔽或者选择的区域进行定向遮挡或者定向选择，在训练的时候v5需要加载数据即图片和标注信息，我们在数据加载的过程中，将掩膜覆盖到输入图像上，即完成了屏蔽区域/选择区域训练。这里有的兄弟会遇到一些报错，主要原因还是环境的版本问题，可以在网上查到，替换一下对应版本的库就行了。
yolov7 mask训练笔记
jacke121的专栏
10-06 4492
yolov7 mask训练笔记
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

往事如yan

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值