cuda转换模型出现 Could not initialize cublasLt. Please check CUDA installation

最新推荐文章于 2024-09-03 22:46:42 发布
原创 最新推荐文章于 2024-09-03 22:46:42 发布 · 828 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#tensorrt

文章讲述了在使用TensorRTX对Yolov5进行模型优化时遇到CUDA初始化错误的问题，原因可能是内存不足或被其他程序占用。解决方法是检查并关闭可能占用CUDA进程的程序后重新运行。
部署运行你感兴趣的模型镜像

root@shhjj-System-Product-Name:/home/shhjj/gpu/tensorrtx_yolov5_person-v6/build# ./yolov5 -s ../model/0826_ts_person_last.wts ../model/0826_ts_person_last.engine s
Loading weights: ../model/0826_ts_person_last.wts
Building engine, please wait for a while...
[10/31/2023-17:21:29] [E] [TRT] 1: [ltWrapper.cpp::CublasLtWrapper::66] Error Code 1: Cublas (Could not initialize cublasLt. Please check CUDA installation.)
Build engine successfully!
yolov5: /home/shhjj/gpu/tensorrtx_yolov5_person-v6/yolov5.cpp:243: void APIToModel(unsigned int, nvinfer1::IHostMemory**, bool&, float&, float&, std::string&): Assertion `engine != nullptr' failed.
已放弃 (核心已转储)
 

解决方法：

内存不足，看有没有其他程序占用cuda进程，kill掉 再跑一次 就成功了

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch 2.5

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

【win11】funasr 8：离线大模型的onnx导出和量化
突围
11-20 62
PyTorch模型转ONNX脚本执行指南 本文提供了在Windows PowerShell环境下将PyTorch模型导出为ONNX格式的详细步骤。主要操作包括：通过Python脚本调用FunASR工具包，指定模型路径和导出目录，并启用量化选项。针对可能出现的"ModuleNotFoundError"错误，给出了解决方案：设置PYTHONPATH变量指向FunASR源码父目录。完整命令行示例包含模型路径处理、环境变量设置和脚本调用方法，适用于FunASR框架下的语音识别模型转换场景。执行成
复现论文报错解决
rellvera的博客
06-12 900
博主复现论文代码过程中遇到的各种报错及解决方案~
RefineDet算法编译中遇到CUBLAS_STATUS_NOT_INITIALIZATION的解决方法
笑看人生的博客
04-13 734
RefineDet算法编译中遇到CUBLAS_STATUS_NOT_ INITIALIZATION的解决方法 实验环境：Ubuntu16.04+cuda9.0+cudnn7.5 最近因为项目需要，对RefineDet算法进行了相关学习和预编译。其基本知识可参见大佬的博客 https://blog.csdn.net/u014380165/article/details/79502308 ，实际编译...
Error Code 1: Cudnn (Could not initialize cudnn, please check cudnn installation.)
zhaozebin666的博客
04-18 1633
[E] Error[1]: [executionResources.cpp::setTacticSources::156] Error Code 1: Cudnn (Could not initialize cudnn, please check cudnn installation.)
使用cublas库遇到的问题（CUDA编程）
huwendong666666的博客
06-18 3927
cublas库是在NVIDIA CUDA上实现blas(基本线性代数子程序），该库是已经封装好的，可以利用该库进行向量和矩阵的多种操作，具体不在赘述。 下面来介绍调用cublas库可能会出现的问题以及解决办法。 1.首先调用cublas库需要添加头文件#include<cublas_v2.h>，编译我们已经写好的代码时可能会出现（error LNK2019:无法解析的外部符号_cu...
RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublas‘
Yonggie的博客
05-29 2132
另：我自己本次error出现的情况是，公用GPU上另一个人占了99%的内存，我的内存一开始够但到了那个模块就不够了，出现了这个错误，没出现out of memory错误。其实对于这种cuda error，由于torch本身是把tensor送进去黑盒，里面发生什么事情是看不见的。但是在cpu的话，错误的定位就范围相对更小。所以在trouble shooting的时候可以。，再进行cuda的跑，（如果效率上说得过去）可以有效发现问题所在。我切换了cpu后，错误提示就比GPU清晰多了。
讲解CUBLAS_STATUS_NOT_INITIALIZED解决
牛肉胡辣汤
12-21 2402
在使用CUBLAS库进行GPU加速的线性代数运算时，出现CUBLAS_STATUS_NOT_INITIALIZED错误是比较常见的问题。在使用CUDA加速库时，特别是在使用CUBLAS库进行GPU加速的线性代数运算时，有时我们可能会遇到CUBLAS_STATUS_NOT_INITIALIZED错误。在本篇文章中，我们将深入探讨这个错误的原因，并给出解决方法。CUBLAS_STATUS_NOT_INITIALIZED错误的主要原因是在调用CUBLAS函数之前未正确初始化CUBLAS库。
cuda install； ubuntu22安装nvidia驱动 以解Cytoscape3.10找不到libOpenCL.so错； asus k43sd, shinelon e479
_
12-25 1321
cuda install； ubuntu22安装nvidia驱动 以解Cytoscape3.10找不到libOpenCL.so错， Cytoscape3教程
cudnn 安装失败_最正确的姿势安装cudnn，网上大多数教程都太坑了
weixin_39916549的博客
12-19 1678
为什么需要安装cudnncuDNN的全称为NVIDIA CUDA® Deep Neural Network library，是NVIDIA专门针对深度神经网络(Deep Neural Networks)中的基础操作而设计基于GPU的加速库。cuDNN为深度神经网络中的标准流程提供了高度优化的实现方式，例如convolution、pooling、normalization以及activation l...
【miniconda&Windows高版本cuda安装Comfyui-CatVTON超级踩坑尝试环境安装成功，但是运行节点时只有国内环境工作流无法完成】
weixin_63986612的博客
09-03 1964
1.没有国外网络环境工作流很难运行 2.Windows环境配置有点困难，耗时两天折磨踩坑 3.主要还是编辑系统环境变量，和手动安装第三方库运行python -m pip install -e detectron2的问题 4.踩坑文章有点乱，请大家见谅我也是刚刚学习CatVTON插件
TensorRT报Cuda initialization failure with error
热门推荐
修炼之路
09-03 1万+
起因 在使用TensorRT将onnx模型转换为engine时报[TRT] Cuda initialization failure with error详细错误信息如下 [TensorRT] ERROR: CUDA initialization failure with error 222. Please check your CUDA installation: http://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html 问
yolov5 Tensorrtx int 8 量化问题记录
weixin_44312422的博客
10-09 2172
terminate called after throwing an instance of ‘std::out_of_range’ what(): _Map_base::atvoid APIToModel(unsigned int, nvinfer1::IHostMemory**, bool&, float&, float&, std::__cxx11::string&): Assertion `engine != nullptr’ failed.
TensorRTx-YOLOv5工程解读（二）
ChunjieShan的博客
10-07 1443
TensorRTx-YOLOv5工程解读（二） 具体Workflow if (!wts_name.empty()) { IHostMemory* modelStream{ nullptr }; APIToModel(BATCH_SIZE, &modelStream, is_p6, gd, gw, wts_name); assert(modelStream != nullptr); std::ofstream p(engine_n
pytorchx和tensorrtx编译tensorrt模型的一些bug问题
m0_60827485的博客
04-28 1485
tensorrtx的相关路径错误。
NVIDIA Xavier TensorRT TensorRTX 生成engine时报错
qq_44942565的博客
04-14 5132
NVIDIA Xavier TensorRT TensorRTX 生成engine时报错
CUDA initialization failure with error 2. Please check your CUDA installation
To be a better man
02-13 4575
解决办法： 应该是你的gpu被占用了。你可能在训练模型，所以把训练给关闭了，再运行就可以了。
RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`
weixin_44902962的博客
03-11 2605
RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`的可能解决思路：embedding维度错误，只要让对应的embedding和词表维度相对应就好
CUBLAS_STATUS_NOT_INITIALIZED解决
jacke121的专栏
05-01 8439
CUBLAS_STATUS_NOT_INITIALIZEDtensorflow/stream_executor/cuda/cuda_blas.cc:443] failed to create cublas handle: CUBLAS_STATUS_NOT_INITIALIZEDtensorflow/stream_executor/cuda/cuda_blas.cc:443] failed to ...
could not initialize class javafish.clients.opc.JCustomOpc
最新发布
09-27
由于没有直接关于解决“could not initialize class javafish.clients.opc.JCustomOpc”问题的参考内容，不过可以从常见的“Could not initialize class”问题通用解决思路来分析。 ### 检查依赖库 “Could not initialize class” 错误通常是由于类的静态初始化块执行失败导致的，而这往往与依赖库有关。需要确保 `javafish.clients.opc` 相关的依赖库都已正确添加到项目中，并且版本兼容。可以检查项目的 `pom.xml`（如果是 Maven 项目） 或者 `build.gradle`（如果是 Gradle 项目） 文件，确认依赖配置无误。 ### 检查类路径 要保证包含 `JCustomOpc` 类的 JAR 文件在类路径中。如果是在 IDE 中开发，检查 IDE 的项目配置；如果是在命令行运行，检查 `CLASSPATH` 环境变量。 ### 检查静态初始化块 `JCustomOpc` 类的静态初始化块可能包含一些需要初始化的资源，如文件、网络连接等。检查静态初始化块的代码，确保其中的资源可以正常访问。 ### 排除冲突依赖 有时候，不同版本的依赖库可能会产生冲突。可以使用工具（如 Maven 的 `dependency:tree` 命令）来查看项目的依赖树，排除可能存在冲突的依赖。类似于解决 “Could not initialize class org.apache.poi.ooxml.util.DocumentHelper” 问题时排除 `org.apache.poi` 的 jar 包 [^3]。 ### 检查日志信息 查看详细的错误日志，可能会有更具体的错误信息，如 `java.lang.NoClassDefFoundError` 或 `java.lang.ExceptionInInitializerError` 等，这些信息可以帮助定位问题。 ```xml <!-- 示例：Maven 排除依赖 --> <dependency> <groupId>example.group</groupId> <artifactId>example-artifact</artifactId> <exclusions> <exclusion> <groupId>conflicting.group</groupId> <artifactId>conflicting-artifact</artifactId> </exclusion> </exclusions> </dependency> ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

_陈陆亮

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值