24、ONNX模型的验证、转换与部署全攻略

ONNX模型的验证、转换与部署全攻略

1. 模型验证与通用ONNX检查器

在机器学习模型的开发与应用中，模型的验证和转换是非常重要的环节。首先，我们来看一个简单的模型验证示例，运行 python check.py 后，会得到如下的模型图信息：

graph torch-jit-export (
  %learned_0[FLOAT, 8x3x200x200]
) optional inputs with matching initializers (
  %fc.weight[FLOAT, 1000x512]
  ...
  %189 = GlobalAveragePool(%188)
  %190 = Flatten[axis = 1](%189)
  %output_1 = Gemm[alpha = 1, beta = 1, transB = 1](%190, %fc.weight, %fc.bias)
  return %output_1
}

调用 check_model() 函数进行验证时不应产生任何错误，这证明了转换具有一定的正确性。为了完全确保转换后的模型正确，还需要进行推理评估，捕捉任何可能的偏差。

接下来，我们创建一个通用的ONNX检查器。首先，创建一个名为 onnx-checker.py 的新文件，包含一个 main() 函数：

def main():