
pytorch
漫索之路
路漫漫其修远兮,吾将上下而求索。
展开
-
pytorch: 学习笔记12, pytorch丢弃法
pytorch丢弃法dropout网络:输入层:28*28=784(每个样本) --> 隐藏层1: 256个单元 --> 隐藏层2: 256个单元 --> 输出层:10(分类)代码:import torchimport torch.nn as nnimport torchvisionimport torchvision.transforms as transformsimport sysclass FlattenLayer(torch.nn.Module):原创 2020-08-09 14:59:08 · 500 阅读 · 0 评论 -
pytorch: 学习笔记11, pytorch权重衰减
目录1, pytorch权重衰减逐步实现2, pytorch权重衰减简单实现1, pytorch权重衰减逐步实现代码:# weight_decay.pyimport torchimport torch.nn as nnimport numpy as npfrom matplotlib import pyplot as pltdef init_params(): w = torch.randn((num_inputs, 1), requires_grad=True) b =原创 2020-08-09 13:44:34 · 855 阅读 · 0 评论 -
pytorch: 学习笔记10, pytorch拟合多项式
pytorch拟合多项式 y=1.2x − 3.4x2 +5.6x3 + 5, 并画出原始曲线及拟合曲线代码:import torchimport numpy as npfrom matplotlib import pyplot as pltdef semilogy_draw(x_vals, y_vals, x_label, y_label, x2_vals=None, y2_vals=None, legend=None, figsize=(3.5, 2.5)):原创 2020-08-07 14:30:44 · 641 阅读 · 0 评论 -
pytorch: 学习笔记9, pytorch实现全连接网络(多层感知机)
pytorch实现全连接网络(多层感知机)网络模型为3层(含输入层):输入(28×28)784个特征单元(神经元);隐藏层:256个单元;输出层:10 (比如sofamax的10分类)。代码:import torchfrom torch import nnfrom torch.nn import initimport torchvisionimport torchvision.transforms as transformsimport sysimport timeclass原创 2020-08-05 21:28:57 · 1115 阅读 · 1 评论 -
pytorch: 学习笔记8, pytorch激活函数
激活函数relusigmoidtanh(Mish)import torchfrom matplotlib import pyplot as pltimport torch.nn.functional as F# relu激活函数 ReLU(x)=max(x,0)# x = torch.arange(-8.0, 8.0, 0.1, requires_grad=True)# y = x.relu() # 激活函数## plt.figure(1, (300, 400))# plt.原创 2020-08-04 23:10:39 · 269 阅读 · 0 评论 -
pytorch: 学习笔记2.1:pytorch中的变量 及 tensor(requires_grad=True)转为numpy
# 1, tensor转为numpy# requires_grad=True 时,不可以将tensor直接转为numpy; 需要 x(tensor).detach().numpy()# requires_grad=False 时,可以将tensor直接转为numpyx1 = torch.arange(-8.0, 8.0, 1, requires_grad=False) # requires_grad 默认值为Falseprint(x1.numpy()) # [-8. -7. -6. -5. -4原创 2020-08-04 21:23:24 · 1304 阅读 · 0 评论 -
pytorch: 学习笔记7, pytorch实现softmax回归
pytorch实现softmax回归import torchimport torchvisionimport torchvision.transforms as transformsimport matplotlib.pyplot as pltimport timeimport sysfrom collections import OrderedDict# Fashion-MNIST是一个10类服饰分类数据集mnist_train = torchvision.datasets.Fashi原创 2020-08-02 22:12:00 · 290 阅读 · 1 评论 -
pytorch: 学习笔记6, pytorch( 实现 )修改VGG16网络的全连接层为线性回归网络
pytorch实现VGG16网络的全连接层import numpy as npimport torchimport torch.utils.data as Dataimport torch.nn.functional as F# 定义模型 : input-->fc1-->fc2-->predict# 25088-->4096-->4096-->1000class FullConnectionNet(torch.nn.Module):原创 2020-08-02 14:30:18 · 4041 阅读 · 1 评论 -
pytorch: 学习笔记5, pytorch实现线性回归2(简单实现)
pytorch实现线性回归简单实现import numpy as npfrom matplotlib import pyplot as pltimport torchimport torch.utils.data as Data# 显示数据def show(sample, labels): print('show') plt.scatter(sample, labels, 1) plt.show()# 定义模型 1class LinearNet(torch.nn.原创 2020-08-01 16:22:23 · 207 阅读 · 0 评论 -
pytorch: 学习笔记4, pytorch实现线性回归
pytorch实现线性回归线性回归应用:如计算房价与面积/房龄的线性函数关系,参数面积越大,一般房价越高(正比,y=kx正斜率k);年代越长,一般房价越低(反比,y=kx负斜率k)。假设房价与两个参数呈线性关系,则初始化参数时,取 true_w = [2, -3.4]import numpy as npimport torchimport randomfrom matplotlib import pyplot as pltdef show(sample, labels): print原创 2020-07-28 23:09:22 · 281 阅读 · 0 评论 -
pytorch: 学习笔记3, pytorch求梯度
pytorch求梯度1, tensor中有 requires_grad 属性,当设置 requires_grad 为True,则会追踪(track)对tonsor的所有操作,之后就可以(利用链式法)调用.backward()来完成所有梯度计算。requires_grad ①可以在创建tensor时,通过参数设置为True/False;②或者通过 .requires_grad_(True/False)设置2, 每个Tensor都有一个 .grad_fn 属性,该属性表示此Tensor是不是通过某些运算得原创 2020-07-26 22:26:07 · 1017 阅读 · 0 评论 -
pytorch: 学习笔记2, 创建tensor
简单介绍几种创建张量tensor的方式1,直接创建tensor2.1,由numpu创建tensor2.2, 把tensor转成numpy3, 类似与创建numpy的方式创建tensor4, 通过现有的tensor来创建tensor5.1, 查看tensor形状5.2, 改变tensor形状#1,直接创建tensortensor1 = torch.tensor([[1, 2], [3, 4]])tensor1_f = torch.FloatTensor([[1, 2], [3, 4]])原创 2020-07-26 15:29:26 · 214 阅读 · 0 评论 -
pytorch: 学习笔记1, torch.cuda中的函数
pytorch:torch.cuda中的函数device_count = torch.cuda.device_count() # 可用的GPU数量current_device = torch.cuda.current_device() #返回当前所选设备的索引device_name = torch.cuda.get_device_name(current_device) #返回设备名, 默认值为当前设备device_capability = torch.cuda.get_device_capabil原创 2020-07-25 21:32:43 · 6335 阅读 · 0 评论