TensorRT cublasStatus == CUBLAS_STATUS_SUCCESS

最新推荐文章于 2023-02-19 15:37:45 发布

原创

最新推荐文章于 2023-02-19 15:37:45 发布 · 3.8k 阅读

15 ·

CC 4.0 BY-SA版权

文章标签：

#TensorRT

本文讲述了在部署TensorRT过程中遇到的CUBLAS内部错误，解决方法是通过安装CUDA 10.2的两个补丁包。详细步骤包括接受更新、安装过程，确保引擎文件不再为空。

最近部署TensorRT的时候，遇到了这个报错，导致生成的engine文件大小为0，就是空文件

[TensorRT] INTERNAL ERROR: Assertion failed: cublasStatus == CUBLAS_STATUS_SUCCESS
../rtSafe/cublas/cublasLtWrapper.cpp:279
Aborting...
[TensorRT] ERROR: ../rtSafe/cublas/cublasLtWrapper.cpp (279) - Assertion Error in getCublasLtHeuristic: 0 (cublasStatus == CUBLAS_STATUS_SUCCESS)
Traceback (most recent call last