
pytorch经验和错误总结
研志必有功
不喜欢做无用的工作,也不写毫无建设的文章
展开
-
Pytorch torch.FLoatTensor LongTensor onehot 转换 数值溢出 解决办法
问题原因转换的对象为int整型的数字,此时转换成张量会发生数值溢出,因为内存机制所出现的问题解决方法np.array(x,dtype = np.float32)后在进行相应的张量转换即可原创 2021-03-01 07:46:10 · 2393 阅读 · 0 评论 -
Pytorch dataloader报错RuntimeError: DataLoader worker (pid xxxxx) exited unexpectedly with exit code 1
这个问题有可能是程序里面出了问题,程序里有bug,本次原因为random.seed =10000改为random.seed(10000)程序就不报错了原创 2021-02-23 09:15:21 · 4270 阅读 · 0 评论 -
pytorch 模型的保存与加载方法以及使用onnx模型部署推理
前言在pytorch中,模型的保存和加载是一个比较麻烦的点,因为Pytorch保存模型的pkl格式中仅能记住每一层对应的参数,以及对应的模型结构所保存的位置也即是class所存放的位置,假如class位置改变的话,那么模型加载的时候就会报很多错误,大概的意思就是类存放的位置发生了改变。那么如何改变这一现状呢?首先对于模型的重新加载和训练,我们可以使用pkl文件格式来进行,因为这一阶段的话并不涉及到模型结构存储文件的转移。但是到了推理部署阶段的时候,我们就必须把模型的结构以及权重保存下来,否则会给我们后面原创 2020-11-15 12:42:38 · 10944 阅读 · 0 评论 -
pytorch进行GPU训练权重初始化的经验总结
前言权重如何初始化关系到模型的训练能否快速收敛,这对于模型能否减少训练时间也至关重要。下面以两个卷积层和一个全连接层的权重初始化为例子,两个代码都只运行一个epoch,来进行对照实验。注意使用GPU训练时候,模型的初始化要设置保存梯度,否则返回的梯度就是0了未对权重归一化的结果代码import torchUSE_GPU = Truedtype = torch.float32 # we will be using float throughout this tutorialif USE_G原创 2020-05-21 15:46:06 · 1100 阅读 · 0 评论