python关于onnx模型的一些基本操作

最近在对模型进行量化时候，模型格式转变为onnx模型了，因此需要对onnx进行加载、运行以及量化（权重/输入/输出）。故，对onnx模型的相关操作进行简单的学习，并写下了这边博客，若有错误请指出，谢谢。

一、onnx的配置环境

onnx的环境主要包含两个包onnx和onnxruntime，我们可以通过pip安装这两个依赖包。

pip install onnxruntime
pip install onnx

二、获取onnx模型的输出层

import onnx
# 加载模型
model = onnx.load('onnx_model.onnx')
# 检查模型格式是否完整及正确
onnx.checker.check_model(model)
# 获取输出层，包含层名称、维度信息
output = self.model.graph.output
print(output)

三、获取中节点输出数据

  onnx模型通常只能拿到最后输出节点的输出数据，若想拿到中间节点的输出数据，需要我们自己添加相应的输出节点信息；首先需要构建指定的节点（层名称、数据类型、维度信息）；然后再通过insert的方式将节点插入到模型中。

import onnx
from onnx import helper
# 加载模型
model = onnx.load('onnx_model.onnx')
# 创建中间节点：层名称、数据类型、维度信息
prob_info =  helper.make_tensor_value_info('layer1',onnx.TensorProto.FLOAT, [1, 3, 320, 280])
# 将构建完成的中间节点插入到模型中
model.graph.output.insert(0, prob_info)
# 保存新的模型
onnx.save(model, 'onnx_model_new.onnx')

# 扩展：
# 删除指定的节点方法： item为需要删除的节点
# model.graph.output.remove(item)

四、onnx前向InferenceSession的使用

  关于onnx的前向推理，onnx使用了onnxruntime计算引擎。
  onnx runtime是一个用于onnx模型的推理引擎。微软联合Facebook等在2017年搞了个深度学习以及机器学习模型的格式标准–ONNX，顺路提供了一个专门用于ONNX模型推理的引擎（onnxruntime）。

import<