解决问题:将 MAN 模型在昇腾设备上推理做准备 - 202306
文章目录
PyTorch 转 ONNX 动态输入、张量格式 - 将 MAN 超分辨率模型转换为 ONNX 模型 上文我们已经获得了 MAN 模型的 ONNX 格式,目标是迁移到昇腾平台上进行推理,最好是原生推理。
本次查找只要关注以下几点:
- 将 MAN 超分辨率模型的整个流程迁移到昇腾 CANN 架构所需步骤以及限制
- ATC 模型转换使用的参数及流程
- AscendCL 架构使能库的 Python 代码编写预处理、推理与后处理流程
- 整个流程可以使用的 CANN 原生组件
流程
ATC 模型转换
发现问题:动态输入仍然不够“动态”
设置输入图片的动态分辨率:适用于执行推理时,每次处理图片宽和高不固定的场景。
将解析的shape中的H和W设置为-1,会在shape下方出现Dynamic Image Size参数。在其中的编辑框中输入具体的动态分辨率参数,最少输入两组,每一组参数通过英文分号分隔,组内参数使用英文逗号分隔。最多支持100档配置,例如输入112,112;224,224。
来自 昇腾文档
昇腾 310 处理器不支持“完全的动态输入”,不能随意传入图片进行推理,只能对图片进行进一步预处理。
转换昇腾 OM 模型时发现所谓“动态分辨率”不是完全动态,而是可以设定多种输入尺寸,还特别说明而且如果设定尺寸种类过多可能会引起转换失败。所以我们需要对进行预处理,图

文章讨论了将MAN模型在昇腾硬件上进行推理的准备过程,包括ATC模型转换时遇到的动态输入限制,如何处理动态输入分辨率和图片数量的问题,以及预处理图片的注意事项,如避免使用缩放拉伸。文章还提到了预处理图片的格式要求和可能复用的示例代码,以及超分辨率模型对训练图像的预处理方式。
最低0.47元/天 解锁文章
3796

被折叠的 条评论
为什么被折叠?



