YOLOv3的训练、测试、fine-tuning过程中遇到的问题

最新推荐文章于 2025-10-31 08:00:00 发布

原创

最新推荐文章于 2025-10-31 08:00:00 发布 · 1.9k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#目标检测 #YOLO3

在使用YOLOv3进行目标检测时，遇到train时UserWarning提示索引类型过时，以及CUDA错误device-side assert triggered。解决办法包括更新索引类型为torch.bool和在utils/utils.py中修正索引越界问题，同时降低学习率避免报错。数据集中更改类别数也可能导致问题，但通过检查和调整可以避免。

先占个坑。

train时遇到错误：UserWarning: indexing with dtype torch.uint8 is now deprecated, please use a dtype torch.bool instead

解决方法： https://blog.youkuaiyun.com/BBZZ2/article/details/101022935
用自己的数据集训练，改变了类别数。训练时会出现错误如下：

RuntimeError: CUDA error: device-side assert triggered.

目前找到的有效的解决方法有两个：
1. 在utils/utils.py中，在相应位置添加下面代码：
  https://github.com/eriklindernoren/PyTorch-YOLOv3/issues/157
  b, target_labels = target[:, :2].long().t()
  gx, gy = gxy.t()
  gw, gh = gwh.t()
  gi, gj = gxy.long().t()
  ########## TODO(arthur77wang):
  gi[gi < 0] = 0<