解决问题:将 MAN 模型在昇腾 310 设备上推理做准备

文章讨论了将MAN模型在昇腾硬件上进行推理的准备过程,包括ATC模型转换时遇到的动态输入限制,如何处理动态输入分辨率和图片数量的问题,以及预处理图片的注意事项,如避免使用缩放拉伸。文章还提到了预处理图片的格式要求和可能复用的示例代码,以及超分辨率模型对训练图像的预处理方式。

解决问题:将 MAN 模型在昇腾设备上推理做准备 - 202306


PyTorch 转 ONNX 动态输入、张量格式 - 将 MAN 超分辨率模型转换为 ONNX 模型 上文我们已经获得了 MAN 模型的 ONNX 格式,目标是迁移到昇腾平台上进行推理,最好是原生推理。

本次查找只要关注以下几点:

  1. 将 MAN 超分辨率模型的整个流程迁移到昇腾 CANN 架构所需步骤以及限制
    1. ATC 模型转换使用的参数及流程
    2. AscendCL 架构使能库的 Python 代码编写预处理、推理与后处理流程
    3. 整个流程可以使用的 CANN 原生组件

流程

ATC 模型转换

发现问题:动态输入仍然不够“动态”

设置输入图片的动态分辨率:适用于执行推理时,每次处理图片宽和高不固定的场景。
将解析的shape中的H和W设置为-1,会在shape下方出现Dynamic Image Size参数。在其中的编辑框中输入具体的动态分辨率参数,最少输入两组,每一组参数通过英文分号分隔,组内参数使用英文逗号分隔。最多支持100档配置,例如输入112,112;224,224。
来自 昇腾文档

昇腾 310 处理器不支持“完全的动态输入”,不能随意传入图片进行推理,只能对图片进行进一步预处理。
转换昇腾 OM 模型时发现所谓“动态分辨率”不是完全动态,而是可以设定多种输入尺寸,还特别说明而且如果设定尺寸种类过多可能会引起转换失败。所以我们需要对进行预处理,图

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值