整天都在摸鱼鱼

PyTorch查看GPU信息import torch# check GPU type, cuda version and so onprint(torch.cuda.is_available())print(torch.cuda.device_count())print(torch.cuda.get_device_name(0))print(torch.cuda.current_device())print(torch.version.cuda)print(torch.cuda.ge

PyTorch自定义Loss跟写Model差不多，都是继承nn.Module，也有的直接定义一个函数计算（一笔带过）。考虑比较几个不常用的Loss：MarginRankingLoss，HingeEmbeddingLoss，CosineEmbeddingLoss一些说明可以参考https://zhuanlan.zhihu.com/p/83364904HingeEmbeddingLoss DocsThe loss function for : n-th sample in the mini-ba

当数据量或者模型很大的时候往往单GPU已经无法满足我们的需求了，为了能够跑更大型的数据，多GPU训练是必要的。PyTorch多卡训练的文章已经有很多，也写的很详细，比如：https://zhuanlan.zhihu.com/p/98535650https://zhuanlan.zhihu.com/p/74792767不过写法各异，整合到自己的祖传代码里又有一些问题，在此记录一下踩坑。DataParallel (DP)最简单的是DP，只需要对model直接调用就可以了，更多细节可以参考前.

Transforms的函数有很多，每次都是直接copy已有的代码，但是不知道具体是什么样子，在这里记录一下Transforms常用方法参考链接1，链接2。Python代码from PIL import Imagefrom torchvision import transforms as tfimport matplotlib.pyplot as pltif __name__ == '__main__': img = Image.open('lena.jpg') img .

# 一些必要的库和参数import torchimport torch.nn as nnfrom torchvision import modelsimport matplotlib.pyplot as pltimport numpy as np以SGD为例model = models.resnet18()init_lr = 0.1optimizer = torch.optim.SGD(model.parameters(), init_lr)# 查看学习率for param_gro

1. 预训练模型加载和预测1.1 加载预训练参数根据训练函数中保存的训练参数，使用 torch.load() 进行读取，再加载 model.load_state_dict() 。def load_pretrained_model(model, path): """ Load the pretrained model :param model: the defined ...

PyTorch Demo-1 : CIFAR-10 分类模型PyTorch >= 1.0Python 31. Data1.1 CIFAR-10 数据CIFAR-10 官方下载 ，下载为 cifar-10-python.tar.gz解压缩文件包含：‘batches.meta’，‘data_batch_1’，‘data_batch_2’，‘data_batch_3’，‘dat...