[caskBuilderUtils.cpp::trtSmToCaskCCV::548] Error Code 1: Internal Error (Unsupported SM: 0x809)

原创

于 2024-12-19 19:32:08 发布 · 1.3k 阅读

8 ·

CC 4.0 BY-SA版权

文章标签：

#RTX40 #tensorrt #SM

在使用RTX40卡的环境里调用python版tensorrt将onnx生成engine，cuda版本是11.3，tensorrt的C++版和python版(其实是python封装程序而已)的版本是8.4.1.5, onnx解析没问题，在构建engine时报错:

engine = builder.build_engine(network, config)
[12/19/2024-16:41:19] [TRT] [E] 1: [caskBuilderUtils.cpp::trtSmToCaskCCV::548] Error Code 1: Internal Error (Unsupported SM: 0x809)
Traceback (most recent call last):
File "tools/convert2trt.py", line 574, in <module>
main()
File "tools/convert2trt.py", line 557, in main
from_onnx(
File "tools/convert2trt.py", line 299, in from_onnx
assert engine is not None, 'Failed to create TensorRT engine'
AssertionError: Failed to create TensorRT engine

问题的原因是Unsupported SM: 0x809，其实就是目前使用的tensorrt版本低了，不支持RTX40卡，需要安装高版本的python版tensorrt(甚至还需安装对应的高版本的cuda)，但是强制安装高版本可能会报错找不到:

pip install nvidia-tensorrt==8.6.1.6