YOLOv3的训练、测试、fine-tuning过程中遇到的问题

最新推荐文章于 2021-11-30 22:46:33 发布

TTTree_

最新推荐文章于 2021-11-30 22:46:33 发布

阅读量1.9k

点赞数

CC 4.0 BY-SA版权

分类专栏：目标检测文章标签：目标检测 YOLO3

本文链接：https://blog.youkuaiyun.com/TTTree_/article/details/102396984

在使用YOLOv3进行目标检测时，遇到train时UserWarning提示索引类型过时，以及CUDA错误device-side assert triggered。解决办法包括更新索引类型为torch.bool和在utils/utils.py中修正索引越界问题，同时降低学习率避免报错。数据集中更改类别数也可能导致问题，但通过检查和调整可以避免。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

先占个坑。

train时遇到错误：UserWarning: indexing with dtype torch.uint8 is now deprecated, please use a dtype torch.bool instead

解决方法： https://blog.youkuaiyun.com/BBZZ2/article/details/101022935
用自己的数据集训练，改变了类别数。训练时会出现错误如下：

RuntimeError: CUDA error: device-side assert triggered.

目前找到的有效的解决方法有两个：
1. 在utils/utils.py中，在相应位置添加下面代码：
  https://github.com/eriklindernoren/PyTorch-YOLOv3/issues/157
  b, target_labels = target[:, :2].long().t()
  gx, gy = gxy.t()
  gw, gh = gwh.t()
  gi, gj = gxy.long().t()
  ########## TODO(arthur77wang):
  gi[gi < 0] = 0<