pytorch转onnx报错： Failed to export an ONNX attribute ‘onnx::Gather’, since it’s not constant

原创已于 2023-07-12 09:57:00 修改 · 1.2k 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #python #深度学习

于 2023-02-10 15:07:49 首次发布

torch 专栏收录该内容

3 篇文章

订阅专栏

在尝试将PyTorch模型转换为ONNX格式时，遇到一个错误，提示FailedtoexportanONNXattributeonnx::Gather,sinceit’snotconstant。错误发生在torch/onnx/symbolic_helper.py文件的第84行。问题根源在于ONNX不支持动态的tensor形状信息。解决方案是将tensor的shape转换为常量，例如通过将shape转换为int列表。经过修改，模型转换成功，不再出现该错误。

PyTorch 2.5

PyTorch

Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

在这里插入图片描述

pytorch转onnx报错， Failed to export an ONNX attribute ‘onnx::Gather’, since it’s not constant, please try to make things (e.g., kernel size) static if possible

报错信息

RuntimeError: Failed to export an ONNX attribute ‘onnx::Gather’, since it’s not constant, please try to make things (e.g., kernel size) static if possible

直接从报错信息上无法定位到具体的算子

定位方法

通过查看详细的错误信息

  File "/home/ubuntu/anaconda3/envs/profiler/lib/python3.9/site-packages/torch/onnx/symbolic_helper.py", line 167, in wrapper
    args = [_parse_arg(arg, arg_desc, arg_name, fn_name)  # type: ignore[assignment]
  File "/home/ubuntu/anaconda3/envs/profiler/lib/python3.9/site-packages/torch/onnx/symbolic_helper.py", line 167, in <listcomp>
    args = [_parse_arg(arg, arg_desc, arg_name, fn_name)  # type: ignore[assignment]
  File "/home/ubuntu/anaconda3/envs/profiler/lib/python3.9/site-packages/torch/onnx/symbolic_helper.py", line 84, in _parse_arg
    raise RuntimeError("Failed to export an ONNX attribute '" + v.node().kind() +

发现异常在“torch/onnx/symbolic_helper.py", line 84”抛出

在torch源码的该位置增加print信息：

print(v.node())

重新运行转模型代码，发现报错信息多了实际引起该错误信息的代码位置。

%37 : Long(device=cpu) = onnx::Gather[axis=0](%34, %36) # /×××/pytorch_profiler/torch2onnx.py:18:0
        
        shape = x.shape()[1:]

解决方法

分析原因，是tensor的size()或shape方法无法被onnx识别，需要修改为常量。

修改方式有很多，比如使用List结果报错tensor的shape信息：

shape = [int(e) for e in x.shape[1:]]

修改后，再次运行转模型代码，不会出现该错误

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch

Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理