Check failed: error == cudaSuccess (8 vs. 0) invalid device function

本文解决Caffe编译时出现的GPU架构不支持问题,并介绍如何修改配置文件以适配AWS实例。同时,针对Faster R-CNN测试时遇到的nms问题提供了解决方案。
我是编译caffe 例子make runtest时报的错:
1 if you're using the GPU instance on AWS, then please change the architecture setting into:
# CUDA architecture setting: going with all of them.
# For CUDA < 6.0, comment the *_50 lines for compatibility.
CUDA_ARCH := -gencode arch=compute_30,code=sm_30 \
-gencode arch=compute_50,code=sm_50 \
-gencode arch=compute_50,code=compute_50
Because the GPU in AWS does not support compute_35
2 I changed sm_35 into sm_30 in lib/setup.py file
3 cd lib, remove these files: utils/bbox.c nms/cpu_nms.c nms/gpu_nms.cpp, if they exist.
And then make && cd ../caffe/ && make clean && make -j8 && make pycaffe -j8

还有别的情况:
运行faster-rcnn做测试时可能出现的错误
google找到了答案,是nms的问题,设置nms不使用gpu即可,但是为什么这样还不是很清楚。
解决:
in $FCN_ROOT/lib/fast_rcnn/config.py
set __C.USE_GPU_NMS = False
<think>嗯,用户遇到了CUDA的断言错误,具体是check_error: Assertion `0' failed。首先,我需要分析可能的原因。根据引用[2]和[3],这通常和显存不足有关。比如训练YOLOv3时batch size太大,或者模型参数没调好,导致显存不够用。这时候应该考虑减小batch size或者subdivisions,或者在配置文件中调整参数,如引用[4]提到的,修改测试和训练的参数设置。 另外,用户可能没有正确配置GPU架构。引用[3]提到需要修改Makefile中的ARCH参数,对应自己的GPU型号。比如GTX 1060对应的是compute_61,sm_61,如果设置错了可能会导致问题。 还有可能是代码本身的bug或者环境问题。比如CUDA驱动或cuDNN版本不兼容,这时候需要检查版本匹配。或者代码中存在未处理的错误,比如内存分配失败,这时候需要添加错误检查,如引用[5]提到的Assert函数使用。 用户需要逐步排查:首先检查显存使用情况,调整配置;然后确认GPU架构设置是否正确;接着检查代码中的错误处理;最后验证环境配置。如果所有步骤都做了还是有问题,可能需要进一步调试或寻求社区帮助。</think>### CUDA断言错误`check_error: Assertion '0' failed`解决方案 #### 1. **显存不足问题(最常见原因)** - **现象**:训练深度学习模型(如YOLOv3)时出现`CUDA Error: out of memory`[^2][^3] - **解决方案**: - **减小批次大小**:修改`.cfg`文件中的`batch`和`subdivisions`参数,例如将`batch=64`改为`batch=32`,并减少`subdivisions`值[^4] - **释放占用显存的进程**:使用`nvidia-smi`命令查看显存占用,终止无关进程 - **测试模式验证**:将配置文件切换为测试模式(`batch=1, subdivisions=1`),确认是否配置错误 #### 2. **GPU架构配置错误** - **现象**:编译阶段出现断言失败,尤其是使用自定义GPU时 - **解决方案**: - 修改`Makefile`中的`ARCH`参数,例如: ```makefile ARCH= -gencode arch=compute_61,code=sm_61 # GTX 1060对应此配置 ``` - 查询GPU算力表(NVIDIA官网),匹配`compute_XX`和`sm_XX` #### 3. **代码逻辑错误** - **现象**:内存越界、空指针等编程错误引发断言 - **解决方案**: - 添加CUDA错误检查宏: ```c #define checkCudaErrors(call) { \ const cudaError_t error = call; \ if (error != cudaSuccess) { \ printf("Error: %s:%d, ", __FILE__, __LINE__); \ printf("code:%d, reason: %s\n", error, cudaGetErrorString(error)); \ exit(1); \ } \ } ``` - 使用`cuda-memcheck`工具检测内存错误[^5] #### 4. **环境配置问题** - **验证步骤**: - 检查CUDA与GPU驱动兼容性(`nvidia-smi`顶部显示的最高支持CUDA版本) - 确认cuDNN版本与CUDA版本匹配 - 重编译代码:`make clean && make`
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI算法网奇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值