解决用gpu训练好的神经网络，用tensorflow-cpu跑报错问题

最新推荐文章于 2023-04-01 20:15:03 发布
原创 最新推荐文章于 2023-04-01 20:15:03 发布 · 1.1k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#tensorflow #深度学习 #人工智能 #python

本文探讨了在GPU和CPU环境下使用TensorFlow训练模型的差异，特别是关于.pb模型的兼容性问题。作者在尝试使用CPU版TensorFlow运行原本在GPU环境下训练的模型时遇到了错误，经过排查发现，GPU和CPU保存的.pb模型存在不一致，但checkpoints文件是通用的。最终通过使用tensorflow-cpu将checkpoints文件重新转换为.pb文件解决了问题。

训练的时候当然用gpu，速度快呀。
我想用cpu版的tensorflow跑一下，结果报错，这个错误不太容易看懂。
在这里插入图片描述
大概意思是没找到一些节点。

后来发现原因，用gpu和cpu保存的pb模型不太一样，但是checkpoints文件是通用的。

使用tensorflow-cpu再把checkpoints文件重新转换一下pb文件就可以了。

完美解决！

Go__home
关注
走进tensorflow第十二步——测试cpu和gpu的速度差距
想不出一个好的标题，就用这个吧
05-22 2万+
好久没看这一块了，最近一直瞎折腾，各种捣鼓，到了这个阶段，迷…… 打算测一下cpu和gpu的实际差距，虽然我这gpu一般般，只有2G，但还是想看看能不能来点儿惊喜。 测试代码来自如下平台： https://databricks.com/tensorflow/using-a-gpu 如果嫌麻烦可以直接copy以下代码： #!/usr/bin/env python # -*- coding...
pytorch——多GPU训练，CPU测试出现的问题
weixin_38208912的博客
03-06 2046
我在训练模型的时候使用了nn.DataParallel，并在在服务器gpu测试也同时将训练好的模型并行载入，这样没有问题，但是我将训练好的模型在本地cpu运行的时候出错。这里记录出错的地方，并记录大致流程。 1. CPU读取模型： RuntimeError: Attempting to deserialize object on a CUDA device but torch.cuda.is_av...
Pytorch学习笔记(7)——模型放GPU上经常报CUDA错该怎么办
LiQZ的博客
03-01 1267
相信许多朋友在使用深度学习时，将模型放在GPU上运行，然后就会报一堆跟CUDA相关的错误，于是开始百度这些错误该怎么修复。得到的结果可能大多数都是该怎么升级CUDA之类的。当按照网上的流程一步步走下来后，却始终无法解决这些问题。 而实际上在我遇到的所有跟CUDA相关的错误，其实都与CUDA没有任何关系，比如有可能是你的Embedding层的维度与词表不匹配等。发生这些错误的时候，我建议先将模型放到CPU上运行，看会不会发生错误，再决定你该如何修改代码。 ...
pytorch在gpu训练好的模型再次cpu使用时需要注意dict的keys多一个module，torch.load设置map_location=‘cpu‘
weixin_43794311的博客
10-24 2357
GPU和CPU训练的模型之间不能直接加载参数 参考：https://blog.youkuaiyun.com/qq_40206371/article/details/120602334 在gpu上训练好的参数，若在cpu的机器上使用参数，加载时需要添加如下 map_location=‘cpu’ model.load_state_dict(torch.load('*.pth',map_location='cpu') 且要保证两个模型中的参数一致 例如，batchsize ......
动手学深度学习学习笔记tf2.0版（4.5 GPU计算）
岁月如歌
03-08 587
日常使用过程中往往需要涉及 GPU 进行模型训练和推理，及指定 GPU进行计算，那么： 经常地，我会这么使用定义要使用的 gpu_id 和 需要消耗的显存: import os os.environ['CUDA_VISIBLE_DEVICES'] = '0, 1' # 获取物理gpu, cpu对象 gpus = tf.config.experimental.list_physical_dev...
如何利用在GPU上训练的模型在CPU上测试
erdaidai的博客
08-29 4635
我用OpenNMT 在服务器上训练了一个模型，保存的模型会被部署在另外一个没有GPU的机子上。问题来了，在GPU上训练的模型在CPU下是不能跑的。
配置tensorflow-gpu和tensorflow-cpu环境和对应的keras ,pytorch（详细步骤）
qq_41758867的博客
03-29 6490
0. 安装Anaconda 和 微软官网的 VC++ 补丁 （1）安装Anaconda 进入官网，滑到最下面，点击安装。（除了安装路径，其他都默认安装） https://www.anaconda.com/products/individual （2）需到微软官网下载对应VC++ 补丁并安装。https://visualstudio.microsoft.com/zh-hans/downloads/ 1.查看版本对应关系 进入网址查看Tensorflow各个版本需要的CUDA版本以及cuDNN的对应关系。
零基础安装tensorflow-cpu/gpu+导入pycharm内核
DearWTW的博客
04-01 3001
零基础安装Anaconda+tensorflow-cpu/gpu+导入pycharm内核
电脑上同时安装了tensorflow和tensorflow-gpu，如何默认使用tensorflow-gpu
热门推荐
qq_41368074的博客
11-12 1万+
虽然也使用tensorflow这么长时间了，但是有个问题我一直没去思考，其实这问题也有困扰我很长时间，但是一直没有去思考如何解决，直到有一天运行模型的时候用cpua实在是卡到起飞，才决定去查找一下，其实也很简单。 我们在使用tensorflow时，在代码里总是这样写 import tensorflow as tf 不少同学会遇到这种情况，电脑上既有tensorflow又有ensorflow-gpu，那么在运行代码的时候到底如何指定使用tensorflow-gpu的，又如何指定使用cpu 版的tensor
TensorFlow使用CPU时出现报错的解决方法
最新发布
08-09
为了解决这个问题，可以通过调整代码配置，让TensorFlow使用CPU来执行任务。 TensorFlow允许明确指定计算任务运行的设备，例如GPU或CPU。如果你在代码中使用了类似tf.device(/device:GPU:0)的语句，那么TensorFlow会...
安装测试Tensorflow-cpu中遇到的问题
qq_44798850的博客
03-26 772
安装测试Tensorflow-cpu中遇到的问题 1、pip install -U tensorflow-gpu -i https://pypi.tuna.tsinghua.edu.cn/simple 不可用 即tsinghua镜像下载tensorflow -gpu中途报错 解决方法： https://pypi.tuna.tsinghua.edu.cn/simple pip install --i...
Pytorch框架下，在多GPU上训练，CPU下测试时的问题小记
weixin_44425647的博客
03-10 709
多GPU服务器训练的错误小记
【pytorch】gpu训练的模型无法在cpu下使用问题解决
zkq_1986的博客
06-05 4766
最近遇到一个问题，发下gpu训练的模型在cpu下不能跑，很难受。 结果发现原来是自己使用了DataParallel的问题，我保存的是整个模型。 model=DataParalle(model) torch.save(‘xx.pkl’,model) 然后把模型copy到自己电脑上用cpu跑 model=torch.load(‘xx.pkl’) #此处报错了。。。。 原因是cpu环境不能直接导入gpu训练的DataParallel模型 所以换个策略,现在gpu把模型转化掉 model =
Pytorch学习笔记（I）——预训练模型（八）：ResNet34网络结构
lockonlxf的博客
05-21 6843
ResNet( (conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False) (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True) (relu): ReLU(...
神经网络训练电脑配置,cpu可以训练神经网络吗
shirley67269的博客
09-01 3452
使用神经网络训练，一个最大的问题就是训练速度的问题，特别是对于深度学习而言，过多的参数会消耗很多的时间，在神经网络训练过程中，运算最多的是关于矩阵的运算，这个时候就正好用到了GPU，GPU本来是用来处理图形的，但是因为其处理矩阵计算的高效性就运用到了深度学习之中。至今，没有一条确定的公式能够实现主频和实际的运算速度两者之间的数值关系，即使是两大处理器厂家Intel和AMD，在这点上也存在着很大的争议，我们从Intel的产品的发展趋势，可以看出Intel很注重加强自身主频的发展。而GPU则是大规模并行运算。.
解决Tensorflow使用CPU报错
Android系统攻城狮
10-01 7083
解决： Operation was explicitly assigned to /device:GPU:0 but available devices are [ /job:localhost/replica:0/task:0/cpu:0 ]. tf.app.Flags.DEFINE_boolean('clone_on_cpu',False,'use CPUs to deploy c
CPU比GPU训练神经网络快十几倍，英特尔：别用矩阵运算了
3D视觉工坊
04-10 1265
来源丨机器之心神经网络训练通常是 GPU 大显身手的领域，然而莱斯大学和英特尔等机构对 GPU 的地位发起了挑战。在深度学习与神经网络领域，研究人员通常离不开 GPU。得益于 GPU 极高...
不能用gpu跑，一直用cpu跑模型引发的一些问题，服务器安装不上tensorflow-gpu
qq_37791134的博客
02-14 3832
先是死活总是在cpu上，实际上用了os.environ['CUDA_VISIBLE_DEVICES'] = '0，1' 还是一样的 就是一直在cpu上跑，真的是让人生气。 然后有人建议用pip 安装 ，用pip install tensoflow-gpu 自然安装的是1.12.0 但是我发现报错了 话说这是cuda版本不对 ，这个我就查了一下 cuda版本 发现没毛病...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值