RuntimeError: CUDA error:device.side assert triggered（tensor形状有误）

最新推荐文章于 2025-03-25 09:44:32 发布

原创最新推荐文章于 2025-03-25 09:44:32 发布

· 516 阅读

8 ·

版权

文章标签：

#cuda

报错如下：

RuntimeError: CUDA error:device.side assert triggered
CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect.

后面经过检查发现，是进行计算的时候维度弄错了，下次遇到这个问题可以试着回去检查数据形状是否正确。

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Gidear

关注关注

9
点赞
踩
8

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

Bug小能手系列(python)_13: RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might

走在深度学习前沿的小宋

10-30

9906

RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1. 报错解决方案

已解决 Pytorch GPU设备断言问题RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors mi

pytorch 入门与进阶

09-17

6579

本质是索引idx越界了，这个错误容易发生在分类任务，类别的输出和模型的输出不匹配，例如模型输出类别为8，但是却索引到9的位置，导致报错。

2 条评论您还未登录，请先登录后发表或查看评论

RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronously re

最新发布

Hello_worId的博客

03-25

2719

如果还有问题，可以贴上你的代码和错误日志，我可以帮你进一步分析！，让错误出现在真正的代码行，而不是异步 API 调用后才触发。由于 CUDA 错误是异步的，可能不会立即报错，建议使用。，导致 GPU 计算出错。从 PyTorch 1.9+ 开始，你可以启用。然后运行代码，它可能会提供更具体的断言信息。你的 PyTorch 代码触发了。

（已解决）RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors

qq_43391414的博客

11-02

1万+

报错原因：大概率是因为：代码有地方数组越界。盲猜是在交叉熵损失函数那里，反正我是在这里。小概率是其他原因。不过，下面的解决办法是通用的。解决办法：先device=“cpu”，运行一遍，可以定位到数组越界的地方，修改代码。保证正确了之后再放在GPU上跑。 ...

RuntimeError: CUDA error: device-side assert triggered CUDA kernel

weixin_43918682的博客

11-17

671

报错：RuntimeError: CUDA error: device-side assert triggered CUDA kernel 看起来是 runtimeerror，指向性很模糊，其实是 index溢出的问题，比如你的loss_list,data,或者什么数组的取值超出范围了，特此记录，找了一天。。。。哈！ ...

解决： RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be

python_innocent的博客

03-27

4479

主要可能出现的原因：1.传入传出的通道数不对；2.net最终全连接输出的class数目对不上labels；3. devices没有具体到某一个，而是一个list;4. 关了重新再连。建议先用一个单tensor如下，进行检验net的输入输出正确性，再放到dataset上。笔者首先尝试了前三个，结果还是报这个错，确认修改无误了把这玩意关了，再打开，正常运行了。

RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be

u010674979的博客

05-07

268

在做分类模型代码训练的时候报错，这个是因为分类标签应该从0开始，我是从1开始的所以出问题了。比如第一类标签为0，第二类为2，。以此类推，第n类为N-1。分类标签应该为：label = 类别-1，修改后即可解决。

RuntimeError: CUDA error: device-side assert triggered CUDA

cfy2401926342的博客

03-17

182

换到了cpu上，果然爆出了真正的错误！愿世界没有代码bug。

解决RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors...CUDA_LAUNCH_BLOCKING=1

热门推荐

AI小白炼金术师

04-30

8万+

RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect.For debugging consider passing CUDA_LAUNCH_BLOCKING=1.

记录：RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronous

当代优秀青年的学习博客

06-20

427

可能是数据集类别标签错误定义导致的，在脚本文件中定义了五类，运行出错！2. voc_classes() 修改。1.在voc.py中修改。

运行时出现 RuntimeError: CUDA error: device-side assert triggered 错误提示

Catcher

12-22

2578

问题描述原本运行时正确的，但是更换了分词器后突然就出现下面的错误提示： RuntimeError: CUDA error: device-side assert triggered 问题原因很可能是数据越界问题，在NLP中很可能出现在词嵌入那块，比如词表一共有1000个词，那么输入的token id 的范围应该是0-999，如果你的输入token id 包含了1001，或者更大的值，那么在进行词嵌入的时候，嵌入矩阵无法索引到这么大的位置，就会出现越界问题。这个问题还可能出现在输出上，比如你的输出标签只有

RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronously

w05072的博客

03-09

381

非常长的错误报出来，都是这个问题，Assertion `t >= 0 && t < n_classes` failed，然后我百度了一下发现是损失函数哪里报错了，他有其他除了255和类别之外的标签值，然后我确认了所有训练集图片，发现都是对的。然后读取时也使用numpy.unique（label）发现没有问题，但是在minibatch加载时出现了254这个标签值，百思不得其解，然后！然后我发现确实是我没有读取到标签转换后的路径，然后改完路径之后发现，又又又又出现了这个问题，我人都懵了，一直找不到答案。

【已解决】RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronous

BetrayFree的博客

11-20

1万+

这篇较为详细的记叙了关于一个bug但又不是很麻烦的bug的解决过程，有部分过程没有记录下来，因为感觉对整个理解过程有影响，所以就挑了主要的过程进行记录。

文生图 stable diffusion面板提示RuntimeError: CUDA error: device-side assert triggered

02-11

### Stable Diffusion 运行时 CUDA 错误解决方案在遇到 `RuntimeError: CUDA error: device-side assert triggered` 的情况下，有几种方法可以帮助解决问题并确保模型稳定运行。 #### 设置环境变量为了更精确地定位错误发生的位置，在各种导入语句之后设置环境变量 `CUDA_LAUNCH_BLOCKING=1` 可以使每次 CUDA 内核启动都变为同步操作，从而帮助调试[^4]： ```python import os os.environ['CUDA_LAUNCH_BLOCKING'] = "1" ``` 这一步骤有助于获取更加准确的堆栈跟踪信息，以便更好地理解问题所在。 #### 修改配置参数对于特定于 AnimateDiff 和 xformers 库的情况，建议调整相关加速选项。由于启用 xformers 加速可能导致不兼容性或引发设备端断言触发异常，可考虑将其设为“自动”，让框架自行决定最佳路径[^2]: ```python # 假定存在这样的接口用于控制xformers行为 config.use_xformers = 'auto' ``` 这种做法可以在保持性能优化的同时减少潜在冲突的风险。 #### 验证硬件资源分配考虑到 GPU 资源管理不当也可能引起此类错误，确认当前工作负载是否合理非常重要。如果可能的话，尝试降低批量大小(batch size)，或者释放不必要的张量(tensor)占用空间来减轻显存压力: ```python batch_size = min(original_batch_size, available_memory // memory_per_sample) ``` 此外，定期调用 `torch.cuda.empty_cache()` 来清理缓存也有助于缓解内存不足带来的影响。通过上述措施应该能够有效应对大部分由 `device-side assert triggered` 导致的问题。当然，具体实施还需结合实际应用场景灵活处理。