onnx2caffe的一些经验

1 背景

因为上海思的npu，CNN部分需要转换为caffe

2 环境

2.1 onnx转换环境

python：3.6
pytorch：1.4
onnx：1.7

2.2 caffe转换环境

python：2.7
onnx：1.7
caffe：1.0

3 步骤

3.1 pytorch2onnx

转换后用onnx的推理一下，验证转换的onnx是否正确

3.2 onnx瘦身

onnxsimplifier

pip install onnx-simplifier
python -m onnxsim srcXXX.onnx dstXXX.onnx

3.3 onnx2caffe

4 经验

4.1 opset_version=11

torch1.4版本，在torch.onnx.export可以选择opset_version=11,可以解决后面很多问题

// torch.onnx.export
torch.onnx.export(..., opset_version=11)

4.2 model.module

如果torch在训练的时候使用了nn.DataParallel，模型加载的时候也要用nn.DataParallel加载权重，在export的时候使用model.module。否则onnx导出的结果不正确（也有其他的办法处理权重）

model = nn.DataParallel(model)
torch.onnx.export(model