
Pytorch
人生体验
多体验人生
展开
-
PyTorch(9.1自定义神经网络)
希望自己来定义pytorch函数或者神经元模块。(定义的方式主要分为2类)1.无参数类这里有个ctx函数的使用,是我之前没有碰到过的。固定了两个函数ctx.save_for_backward(input)input, = ctx.saved_tensors()ctx为上下文context ------ctx.saved_tensors会返回forward函数内存储的对象#codi...原创 2019-11-25 17:41:06 · 1796 阅读 · 0 评论 -
PyTorch(二次元头像--GAN实战)
1.预处理函数(这里有一个问题,transforms.Normalize()函数的使用)有博主写了https://blog.youkuaiyun.com/xys430381_1/article/details/857246682.定义鉴别器计算方式参考上一张 迁移学习的内容。最后输出向量的类型为256*6*6.同时每次卷积过后,进行批归一化(这点与传统的方式不一样)+LeaKy ReLU...原创 2019-11-25 12:38:56 · 822 阅读 · 0 评论 -
PyTorch--生成对抗网络(GAN)
在没了解它之前,我大概的印象就是它可以为我们创造更多的数据。用数学方式阐述训练算法:1.初始化生成器的参数+鉴别器的参数2.每次迭代执行下面的参数: 前4步是升级鉴别器,后面两步是升级生成器;不想知道这个其中的原理,我只是使用,如有需要,再来仔细探究。...原创 2019-11-25 11:07:59 · 358 阅读 · 0 评论 -
PyTorch(迁移学习实战)
先跑一遍代码再说。理解一下基本的套路。1.数据预处理(transforms.Compose函数包含图像数据预处理的方法)#数据预处理的方data_transforms = { 'train': transforms.Compose([ transforms.Scale(230), transforms.CenterCrop(224), ...原创 2019-11-24 15:42:09 · 1031 阅读 · 2 评论 -
PyTorch(迁移学习)
最近看东西比较快,可能也是得益于自己实习公司的需要吧,借助实习公司的平台,让自己入门入坑。看2d图像希望自己可以了解几个经典深度学习方法,我最终在2D这一块,希望自己可以使用自己的数据集来完成一个独立的物体的语义分割的效果。 第四章 迁移学习(简单的梳理知识点)迁移学习,我的理解就是在训练好参数模型上改改,使它应用到另外一个相似的物体。...原创 2019-11-24 15:35:45 · 177 阅读 · 0 评论 -
PyTorch(手写数字识别)
先简单梳理一下理论的部分: 从上图可以看到整个手写数字网络的结构。关键技术说明:1.卷积(卷积神经网络中,将二维的图像直接作为输入,要区别其他神经网络) 类比经典图像处理的卷积操作,很好理解卷积的概念。 卷积都需要一个mask(掩膜),卷积的结果会产生一个特征图;...原创 2019-11-24 14:41:24 · 366 阅读 · 0 评论 -
PyTorch(逻辑回归)
逻辑回归出来的只是2类0/1;这里就不跑代码了,很简单的,只是把原理疏通一下,同后面的多元分类;这里的损失函数不再是MSE了,改成了交叉熵;激活函数也从relu变成了sigmod函数;优化函数一让是随机梯度函数(SGD);3.5多元分类激活函数由原来的sigmod 变成 softmax 函数;...原创 2019-11-24 11:39:56 · 162 阅读 · 0 评论 -
PyTorch(非线性回归---3.3)
数据部分上面一小节差不多。1.这个类的定义,先是定义了隐含层和输出层,然后定义了前向传播函数(包括relu处理隐含层输出、加最终输出) 2.优化函数(传入的参数是神经网络的参数)以及loss函数。 3. 这里的backward是先清空了梯度,在计算梯度,最后在step更新梯度。 ...原创 2019-11-23 14:31:43 · 841 阅读 · 0 评论 -
PyTorch(人工神经元)
主要是熟悉一下pytorch 的nn模块。代码如下:1.这个unsqueeze函数主要增加了一个维度 2. Python中 类的定义方式:(这一块不是很理解)回头看一下python类的定义。 继承了nn.module模块,首先定义初始化函数,进行初始化; nn.Linear()函数...原创 2019-11-23 14:29:24 · 491 阅读 · 0 评论 -
PyTorch(利用GPU加速训练)
上一篇文章只是5个数据,现在用100000数据进行训练;(代码如下)效果:(GTX1060ti)cpu就不谈了。原创 2019-11-23 11:21:15 · 742 阅读 · 0 评论 -
PyTorch(线性回归)
给你一堆数据点,这里用下面的图来表示: 假设用一条直线去拟合:y=kx+b;1.问题转化成选择什么样子的k,b来拟合,怎么选择。 对于我们怎么来选择,是利用这个损失函数来表示的,损失函数中又有很多类型,这里就简单的用MSE(均方误差来表示)。2.问题转...原创 2019-11-23 11:02:20 · 488 阅读 · 0 评论 -
PyTorch(基础使用)
项目需要:简单的学一下使用这个Autograd好像满特殊的,在tensorflow中没有看到。原创 2019-11-21 17:34:06 · 108 阅读 · 0 评论