YOLOv3的训练、测试、fine-tuning过程中遇到的问题

最新推荐文章于 2021-11-30 22:46:33 发布
最新推荐文章于 2021-11-30 22:46:33 发布
阅读量1.9k 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 目标检测 文章标签： 目标检测 YOLO3
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/TTTree_/article/details/102396984
在使用YOLOv3进行目标检测时，遇到train时UserWarning提示索引类型过时，以及CUDA错误device-side assert triggered。解决办法包括更新索引类型为torch.bool和在utils/utils.py中修正索引越界问题，同时降低学习率避免报错。数据集中更改类别数也可能导致问题，但通过检查和调整可以避免。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

先占个坑。

  1. train时遇到错误：UserWarning: indexing with dtype torch.uint8 is now deprecated, please use a dtype torch.bool instead
    在这里插入图片描述
    解决方法： https://blog.youkuaiyun.com/BBZZ2/article/details/101022935

  2. 用自己的数据集训练，改变了类别数。训练时会出现错误如下：

    RuntimeError: CUDA error: device-side assert triggered.
    在这里插入图片描述
    目前找到的有效的解决方法有两个：

    1. 在utils/utils.py中，在相应位置添加下面代码：
      https://github.com/eriklindernoren/PyTorch-YOLOv3/issues/157
      b, target_labels = target[:, :2].long().t()
      gx, gy = gxy.t()
      gw, gh = gwh.t()
      gi, gj

最低0.47元/天 解锁文章

200万优质内容无限畅学
利用yolov5训练自己的数据集； yolov5的安装与使用 ； yolov5源码解读
m0_67401660的博客
06-21 2906
*免责声明: 1此方法仅提供参考 2搬了其他博主的操作方法,以贴上路径. 3*1:基本命令 查看Anaconda的版本信息 查看python版本信息 打开Jupyter Notebook命令 或者 退出python输入环境: 命令行终止正在运行的程序命令 : 查看 opencv版本信息: 2:创建使用自己的虚拟环境生成一个名叫 jiance的环境,用来进行做识别任务: 进入这个环境,也就是激活这个环境 windows下: 接下来就是 在这个环境中可以下载你所需要的包 或者是退出这个环境 :查看
YOLOv2如何fine-tuning？
热门推荐
木凌的博客
12-01 1万+
作者：木凌 时间：2016年11月。 博客连接：http://blog.youkuaiyun.com/u014540717 QQ交流群：554590241 在上一篇用YOLOv2模型训练VOC数据集中，我们尝试用YOLOv2来训练voc数据集，但我想训练自己的数据集，那么YOLOv2如何做fine-tuning呢？我们一步一步来做～1 准备数据1.1 建立层次结构首先在darknet/data文件夹下创
YOLOv3 算法的一点理解
weixin_43955293的博客
11-30 1892
YOLOv3 算法的一点理解2018-12-28 | 目标检测 | 2147 阅读 | 8.8k 字 | 35 分钟今天讲一讲 YOLOv3, 目标检测网络的巅峰之作, 疾如风，快如闪电。 1. 算法背景假设我们想对下面这张 416 X 416 大小的图片进行预测，把图中 dog、bicycle 和 car 三种物体给框出来，这涉及到以下三个过程： 怎么在图片上找出很多有价值的候选框？ 接着判断候选框里有没有物体？ 如果有物体的话，那么它属于哪个类别？ 听起来就像把大象
YOLOV3代码详解
weixin_43492016的博客
02-06 7810
代码分析：https://github.com/eriklindernoren/PyTorch-YOLOv3 论文地址：https://pjreddie.com/media/files/papers/YOLOv3.pdf 注：本次分析的代码是以上给出的网址，全部根据自己的理解写的，如有不足，还请指正。 1、datasets.py 因为所有模型都包括数据加载，模型载入，训练和测试等，所以先从数据的载...
Warning: masked_scatter_ received a mask with dtype torch.uint8, this behavior is now deprecated,ple
weixin_44371912的博客
11-13 6254
训练时报警告如下，影响查看训练信息了： Warning: masked_scatter_ received a mask with dtype torch.uint8, this behavior is now deprecated,please use a mask with dtype torch.bool instead. (function masked_scatter__cuda) 找到需要变换类型的训练集变量。这里要求训练集mask是bool类型而不是unit8，在返回训练集的时候加上 .boo
Pytorch | yolov3原理及代码详解（二）
qq_24739717的博客
07-22 1万+
阅前可看： Pytorch | yolov3原理及代码详解（一） https://blog.youkuaiyun.com/qq_24739717/article/details/92399359 分析代码： https://github.com/eriklindernoren/PyTorch-YOLOv3 了解YOLOv3推演（检测）的过程。 本文主要针对YOLOv3如何训练，即分析trai...
/pytorch/aten/src/ATen/native/cuda/LegacyDefinitions.cpp:14: UserWarning: masked_fill_ received a ma
yscoder的博客
10-23 5204
出现如下异常: /pytorch/aten/src/ATen/native/cuda/LegacyDefinitions.cpp:14: UserWarning: masked_fill_ received a mask with dtype torch.uint8, this behavior is now deprecated,please use a mask with dtype t...
Yolov5模型Fine-tuning策略与注意事项
Fine-tuning是指在一个预训练模型的基础上，通过在新的数据集上进行进一步训练，来提升模型在特定任务上的性能。在目标检测领域，Fine-tuning可以帮助我们在相对较小的数据集上训练一个更加准确的模型，从而实现更好...
用自有数据集 YOLO-World -s 用自有 yolo格式的热成像 人脸检测 训练数据集 微调 s_stage2-4466ab94.pth的背景下， 以下是 官方微调教程 Fine-tuning YOLO-World Fine-tuning YOLO-World is easy and we provide the samples for COCO object detection as a simple guidance. Fine-tuning Requirements Fine-tuning YOLO-World is cheap: it does not require 32 GPUs for multi-node distributed training. 8 GPUs or even 1 GPU is enough. it does not require the long schedule, e.g., 300 epochs or 500 epochs for training YOLOv5 or YOLOv8. 80 epochs or fewer is enough considering that we provide the good pre-trained weights. Data Preparation The fine-tuning dataset should have the similar format as the that of the pre-training dataset. We suggest you refer to docs/data for more details about how to build the datasets: if you fine-tune YOLO-World for close-set / custom vocabulary object detection, using MultiModalDataset with a text json is preferred. if you fine-tune YOLO-World for open-vocabulary detection with rich texts or grounding tasks, using MixedGroundingDataset is preferred. Hyper-parameters and Config Please refer to the config for fine-tuning YOLO-World-L on COCO for more details. Basic config file: If the fine-tuning dataset contains mask annotations: base = ('…/…/third_party/mmyolo/configs/yolov8/yolov8_l_mask-refine_syncbn_fast_8xb16-500e_coco.py') 复制 base = (‘…/…/third_party/mmyolo/configs/yolov8/yolov8_l_mask-refine_syncbn_fast_8xb16-500e_coco.py’) python If the fine-tuning dataset doesn’t contain mask annotations: base = ('…/…/third_party/mmyolo/configs/yolov8/yolov8_l_syncbn_fast_8xb16-500e_coco.py') 复制 base = (‘…/…/third_party/mmyolo/configs/yolov8/yolov8_l_syncbn_fast_8xb16-500e_coco.py’) python Training Schemes: Reducing the epochs and adjusting the learning rate _base_.val_interval_stage2)]) 复制 _base_.val_interval_stage2)]) python Datasets: _delete_=True, type='MultiModalDataset', type='YOLOv5CocoDataset', data_r
最新发布
03-27
另外，用户可能遇到的问题包括路径配置错误、类别数不匹配、学习率设置不当导致的训练不稳定等。需要提醒用户检查这些常见问题，并参考官方文档或教程中的示例配置文件进行调整。 总结下来，步骤应该是： 1. 准备...
【YOLOv1基础】训练技巧：针对YOLOv1的训练过程中的要点
[【YOLOv1基础】训练技巧：针对YOLOv1的训练过程中的要点](https://img-blog.csdnimg.cn/d31bf118cea44ed1a52c294fa88bae97.png) # 1. YOLOv1概述与理论基础 YOLOv1（You Only Look Once version 1）是一种在2016年...
对YOLOv3训练出的权重文件做网络裁剪后的fine-tuning操作记录总结
xidaoliang的博客
02-22 1万+
1、使用darknet训练处的YOLOv3权重文件的大小一般在200M+左右，这对于在应用阶段做模型加载的时候时间非常的长，因此我们项目组打算对训练好的模型做裁剪，就是把一些不必要的卷积核及其参数删除掉，（删除的原则就是设置一阈值，当小于某一个阈值的时候踢出该卷积核和对应的参数），在此基础对裁剪完成后的权重文件重新fine-tuning，保持权重文件中参数的平衡，在模型缩小的情况下保持检测精度的基...
yolov3模型微调相关
watermelon1123的博客
10-10 4374
        这里记录一下关于yolov3做模型微调的相关命令. 首次训练都会加载预训练模型darknet53.conv.74,假如首次训练出了模型1,要在模型1的基础上finetuning模型2,当然前提是模型2与模型1之间网络结构没有发生变化,类别也没有增加.(类别增加的话我暂时还不太清楚)这个时候有两种解决方法: 1. 使用-clear命令 通过模型1训练出的backup或者fina...
pytorch报indexing with dtype torch.uint8 is now deprecated, please use a dtype torch.bool instead
修炼之路
12-11 2948
导读 在使用pytorch训练的时候报一堆的UserWarning，报错信息如下 /pytorch/aten/src/ATen/native/IndexingUtils.h:20: UserWarning: indexing with dtype torch.uint8 is now deprecated, please use a dtype torch.bool instead. /pytorch/aten/src/ATen/native/IndexingUtils.h:20: UserWarning
keras-yolov3
升级迭代
05-11 5324
https://github.com/qqwweee/keras-yolo3 Quick Start: wget https://pjreddie.com/media/files/yolov3.weights python convert.py yolov3.cfg yolov3.weights model_data/yolo.h5 python yolo.py or pyth...
UserWarning: indexing with dtype torch.uint8 is now deprecated, please use a dtype torch.bool instea
curtain的博客
02-02 4620
今天用pytorch训练的时候，出现了一堆这样的报错，翻阅了一些资料，找到了解决方法 找到model.py 将obj_mask改为obj_mask.bool() 将noobj_mask改为noobj——mask.bool（） 我在repalce all的时候，发现部分已经加了.bool（）所以在替换的时候要注意一些 ...
训练yolov3的时候对模型进行微调
duanyajun987的博客
05-28 2786
这里记录一下关于yolov3做模型微调的相关命令. 首次训练都会加载预训练模型darknet53.conv.74,假如首次训练出了模型1,要在模型1的基础上finetuning模型2,当然前提是模型2与模型1之间网络结构没有发生变化,类别也没有增加.(类别增加的话我暂时还不太清楚)这个时候有两种解决方法: 1. 使用-clear命令 通过模型1训练出的backup或者final.weigh...
神经网络darknet-yolov3训练策略
zhe_csdn的博客
04-12 2125
1、 首先设置较大的学习率 2 、 迭代次数先迭代1000次，看看avg 3、 再决定训练次数 针对darknet-yolov3的训练 Training batch=64 subdivisions=16 width=416 height=416 channels=3 momentum=0.9 decay=0.0005 angle=0 saturation = 1.5 exposure = 1.5 ...
yolov3提高精度策略
09-05 1万+
在.cfg文件中设置random=1，它会通过对不同分辨率的图片进行训练以提高精度 使用高分辨率的图像输入。在.cfg文件中设置height和width值。但是你无需重头训练，只需使用回416x416分辨率的权重数据就好了。 检查数据集标注是否正确符合规范 检查训练数据集数据量是否过少 迭代次数推荐不低于2000 * classes 你的训练样本希望包含没有目标物体的图像，即该图像中没有...
pytorch中torch.masked_select()总结
m0_46483236的博客
03-29 6781
官方文档： 实例
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值