报错:RuntimeError: result type Float can‘t be cast to the desired output type long int

在部署Yolop时遇到RuntimeError,因为新版本torch不支持从Float到Longint的直接转换。文章提供了两种解决方案:一是修改postprocess.py文件中第30行的代码,将gain转为long类型;二是修改第75行的代码,用predictions[i].shape来确定索引范围。作者建议使用第一种方法,因为它更快。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

写在前面

在部署yolop的时候,原封不动的按照官方执行指令,结果在训练数据集的时候报错:
报错:RuntimeError: result type Float can’t be cast to the desired output type long int
什么意思呢,加就是说我这个版本的torch不支持float直接转换为long int 型数据,,后来发现新版本的torch确实有这个问题,老版本没有这个问题。所以这需要我们手动转换数据类型

两种解决办法

第一种:搜索找到postprocess.py文件,第30行

gain = torch.ones(7, device=targets.device)

将上述代码更改为:

gain = torch.ones(7, device=targets.device).long()

第二种:找到报错文件postprocess.py文件,第75行

indices.append((b, a, gj.clamp_(0, gain[3] - 1), gi.clamp_(0, gain[2] - 1))) 

将上述代码更改为:

indices.append((b, a, gj.clamp_(0, predictions[i].shape[2] - 1), gi.clamp_(0, predictions[i].shape[3] - 1)))

建议使用第一种,因为我发现第一中的处理速度貌似更快

评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值