关于魔塔Scrfd模型在cpu运行报错的问题

最新推荐文章于 2025-03-19 15:40:19 发布

TM 2.0

最新推荐文章于 2025-03-19 15:40:19 发布

阅读量287

点赞数 3

文章标签： python 算法深度学习计算机视觉

本文链接：https://blog.youkuaiyun.com/qq_42693842/article/details/138133049

版权

文章讲述了在使用`MMDataParallel`进行card_detection任务推理时遇到的RuntimeError，原因在于模型没有在期望的CUDA设备上找到参数和缓冲区。解决方法是在模型初始化后将`detector.device_ids`设置为`None`，以允许在CPU上运行推理。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

复现

当我们使用一下代码构建推理时

pipeline(Tasks.card_detection, 'damo/cv_resnet_carddetection_scrfd34gkps', device = "cpu")

推理时会出现以下报错

	File "/opt/conda/lib/python3.8/site-packages/torch/nn/parallel/data_parallel.py", line 154, in forward
    	raise RuntimeError("module must have its parameters and buffers "
RuntimeError: module must have its parameters and buffers on device cuda:0 (device_ids[0]) but found one of them on device: cpu

方法

更改文件
modelscope/models/cv/face_detection/scrfd/scrfd_detect.py:51

detector = MMDataParallel(detector, device_ids = [0])
detector.device_ids=None # + 添加这行代码

原理

MMDataParallel的forward函数确实有实现当device_ids为None的情况, 即使用cpu推理, 但是当我们设置detector = MMDataParallel(detector, device_ids = None)是没卵用的
MMDataParallel继承于torch的DataParallel, 当初始化时调用父类初始化自动查找可以使用的cuda设备, 重置device_ids, 所以
只需要在初始化后重新设置device_ids为None即可