mmdeploy windows下pth2onnx 并对onnx进行量化

原创

已于 2023-03-17 14:23:27 修改 · 1.1k 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#windows #python #深度学习

于 2022-11-23 10:29:39 首次发布

本文介绍如何将mmsegmentation训练好的模型转换为可部署模型，包括环境搭建、模型转换脚本编写、ONNX模型生成及量化等步骤。

最近需要将mmsegmentation训练好的模型部署到机器上，记录一下mmsegmentation训练好的模型转换成可部署的模型记录。

1.还是搭环境，搭环境过程当中遇到一些问题，mmdeploy官方推荐torch版本大于等于1.8。于是一顿操作猛如虎，一看战绩0-5。可能是强迫症犯了，一直用conda在windows上安装高版本的pytorch，结果就是failed。吐槽一下windows，淦。废话少说，搭环境。

conda create -n mmdeploy python=3.8 -y
conda activate mmdeploy
#windows上用conda 装高版本的pytorch老安装不完整，也不知道是个什么情况，这个地方我们用pip 的方式安装
pip install torch==1.9.0+cu111 torchvision==0.10.0+cu111 torchaudio==0.9.0 -f https://download.pytorch.org/whl/torch_stable.html
pip install onnx
#onnxruntime版本为1.8.1
pip install onnxruntime

2.下载mmdeploy源码，然后找到tools下的转换脚本，转换脚本的具体配置看个人需求自己选。输入尺寸可以是动态的也可以是静态的，

# Copyright (c) OpenMMLab. All rights reserved.
import argparse
import logging
import os
import os.path as osp

from mmdeploy.apis import (extract_model, get_predefined_partition_cfg,
                           torch2onnx)
from mmdeploy.utils import (get_ir_config, get_partition_config,
                            get_root_logger, load_config)


def parse_args():
    parser = argparse.ArgumentParser(description='Export model to ONNX.')
    #转换模型数据输入配置文件，这个地方将模型输入转成动态的，静态的输入配置大小也是可以更改的，建议改成动态的，省事。
    parser