【找出 ONNX 输入】onnx_model.graph.input 或者 ort_session.get_inputs()

先下载好 onnx 和 onnxruntime-gpu

pip install onnx
pip install onnxruntime-gpu

这里需要注意下 onnxruntime 对应的 CUDA 和 cuDNN 版本，不一定适配，具体可查看官方文档

针对转化成果的 .onnx 模型，通过以下代码即可查看定义好的输入和输出

import onnx
import onnxruntime as ort

# 加载 ONNX 模型
onnx_model_path = "/path/to/yourmodel.onnx"
onnx_model = onnx.load(onnx_model_path)

# 打印模型输入定义列表
print("ONNX 模型的输入定义:")
for input in onnx_model.graph.input:
    print(f"Name: {
     input.name}")
    print(f"Type: {
     input.type}")
    print(f"Shape: {
     [dim.dim_value for dim in input.type.tensor_type.shape.dim]}")