iridescent_mian的博客

单GPU：import osos.environ["CUDA_VISIBLE_DEVICES"] = "0"多GPU：device_ids = [0,1,2,3]model = model.cuda(device_ids[0])model = nn.DataParallel(model, device_ids=device_ids)optimizer = optim....

pytorch的模型和参数是分开的，可以分别保存或加载模型和参数。pytorch有两种模型保存方式：1、保存整个神经网络的的结构信息和模型参数信息，save的对象是网络net2、只保存神经网络的训练模型参数，save的对象是net.state_dict()对应两种保存模型的方式，pytorch也有两种加载模型的方式。对应第一种保存方式，加载模型时通过torch.lo...

前言在上篇文章《浅谈深度学习:如何计算模型以及中间变量的显存占用大小》中我们对如何计算各种变量所占显存大小进行了一些探索。而这篇文章我们着重讲解如何利用Pytorch深度学习框架的一些特性，去查看我们当前使用的变量所占用的显存大小，以及一些优化工作。以下代码所使用的平台框架为Pytorch。优化显存在Pytorch中优化显存是我们处理大量数据时必要的做法，因为我们并不可能拥有无限的显存...

利用pytorch来构建网络模型有很多种方法，以下简单列出其中的四种。假设构建一个网络模型如下：卷积层--》Relu层--》池化层--》全连接层--》Relu层--》全连接层首先导入几种方法用到的包：import torchimport torch.nn.functional as Ffrom collections import OrderedDict第一种方法...

Pytorch官方的加载和保存模型的方式有两种：1、保存和加载整个模型这种方式再重新加载的时候不需要自定义网络结构，保存时已经把网络结构保存了下来，比较死板不能调整网络结构。注：torch.load返回的是一个 OrderedDicttorch.save(model_object, 'model.pkl')model = torch.load('model.pkl')2...

1、补零1）字符串python中有一个zfill方法用来给字符串前面补0，非常有用n = "123"s = n.zfill(5)assert s == "00123"zfill()也可以给负数补0n = "-123"s = n.zfill(5)assert s == "-0123"2）数字补零通过格式化的方式来补0n = 123s = "%05d" ...