Error Code 1: Cudnn (Could not initialize cudnn, please check cudnn installation.)

原创已于 2023-04-18 17:47:41 修改 · 1.6k 阅读

2 ·

CC 4.0 BY-SA版权

文章标签：

#linux

于 2023-04-18 17:10:50 首次发布

在尝试使用TensorRT将ONNX模型转化为序列化引擎时遇到CUDNN初始化失败的错误。该问题由显卡显存不足引起，通过更换具有更大显存的显卡成功解决了问题。解决方案包括检查CUDA、CUDNN和驱动版本的兼容性以及确保足够的显存资源。

部署运行你感兴趣的模型镜像

问题描述

在使用tensort将onnx转化为tensorrt序列化的engine时输出如下错误

[E] Error[1]: [executionResources.cpp::setTacticSources::156] Error Code 1: Cudnn (Could not initialize cudnn, please check cudnn installation.)

解决思路1：检查显卡驱动版本与cuda的兼容性
官方版本兼容文档

# 打印驱动版本 1
cat /proc/drive/nvidia/version

NVRM version: NVIDIA UNIX x86_64 Kernel Module  495.29.05  Thu Sep 30 16:00:29 UTC 2021
GCC version:  gcc version 9.4.0 (Ubuntu 9.4.0-1ubuntu1~20.04.1)

# 打印驱动版本 2
nvidia-smi

Tue Apr 18 17:05:52 2023
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 495.29.05    Driver Version: 495.29.05    CUDA Version: 11.5     |
|-------------------------------+----------------------+----------------------+

# 打印cuda版本
nvcc -V

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2021 NVIDIA Corporation
Built on Wed_Jul_14_19:41:19_PDT_2021
Cuda compilation tools, release 11.4, V11.4.100
Build cuda_11.4.r11.4/compiler.30188945_0

检查后发现版本是兼容的

解决思路2：显卡显存不足

排查后发现是显卡的显存不够导致 cudnn 初始化失败，换了一张可用显存更大的卡解决问题

# 1 trtexec可执行文件
CUDA_VISIBLE_DEVICES=1 trtexec --onnx=/path/to/load/onnx --saveEngine=/path/to/save/engine
# 2 python脚本
CUDA_VISIBLE_DEVICES=1 python build_engine.py