AX620A转换yolo系列模型踩坑
前言
去年记录了如何在ax620a下使用工具链转换自训练yolov5模型:AX620A运行yolov5s自训练模型全过程记录
但今天由于各种环境发生变化了,再去这样转换的话,就会报错失败。

经过一番查找,发现是pytorch版本更新导致的。其实社区有文章已经更新了yolov5和yolov8的模型转换方法,但是仍然有坑点,如果不注意的话还是会失败。
一、YOLOV5转换
社区文章看这里:[m3axpi] YOLOv5训练到部署全流程
其实主要问题就是pytorch版本不能大于1.13.0。如果是使用1.13.0之后版本的话,按照文章第二种方法,使用onnx-modifier图形化工具删去后处理算子。但在编辑完成下载新模型时,一定要勾选shape infrernce和clean up两个选项,再download导出,否则转换时还是会报错失败。


文章介绍了在AX620A平台上转换YOLOV5和YOLOV8模型时遇到的问题及解决方案。YOLOV5转换需要注意pytorch版本不能高于1.13.0,并在使用onnx-modifier时勾选shapeinference和cleanup选项。而YOLOV8转换的关键是使用python脚本直接导出模型,因原有导出命令行工具可能未更新。转换过程在12代i5CPU上耗时较长,对多线程支持不佳。
最低0.47元/天 解锁文章
6万+





