
Pytorch
wenqiang su
这个作者很懒,什么都没留下…
展开
-
pytorch-transformers (BERT)微调
pytorch-transformers (BERT)微调import torch# from pytorch_transformers import *from pytorch_transformers import BertModel,BertTokenizer,AdamW,BertForTokenClassificationimport torch.nn as nnimport p...原创 2019-10-13 22:11:35 · 5881 阅读 · 5 评论 -
商品名称一级分类-CNN and RNN 方法测试
商品名称一级分类-CNN and RNN 方法测试EPOCHES = 3#TEXT_CNN参数:IN_CHANNELS = 100 # 输入特征的维度,在文本处理中就是词向量的维度,在图像处理中就是通道数OUT_CHANNELS = 256 # 卷积产生的通道数,即卷积核个数,滤波器个数KERNEL_SIZE = 2 # 卷积核尺寸,实际输入的滤波器尺寸应该为...原创 2019-09-17 12:06:04 · 871 阅读 · 0 评论 -
pytorch学习笔记-实践-RNN-sin预测cos
RNN 通过Sin预测Cosimport torchimport torch.nn as nnimport torch.nn.functional as Ffrom torch import optimimport numpy as npfrom matplotlib import pyplot as pltimport matplotlib.animation #导入动图包im...原创 2019-09-05 16:00:32 · 551 阅读 · 0 评论 -
pytorch学习笔记-实践-CNN-minst手写数字识别
import torchimport torch.nn as nnimport torch.nn.functional as Fimport torch.optim as optimfrom torchvision import datasets,transformstorch.__version__'1.2.0'首先定义一些超参数BATCH_SIZE = 512EPOC...原创 2019-09-04 15:25:21 · 653 阅读 · 0 评论 -
pytorch学习笔记-实践-逻辑回归二元分类
逻辑回归logistic回归介绍logistic回归是一种广义线性回归(generalized linear model),与多重线性回归分析有很多相同之处。它们的模型形式基本上相同,都具有 wx + b,其中w和b是待求参数,其区别在于他们的因变量不同,多重线性回归直接将wx+b作为因变量,即y =wx+b,而logistic回归则通过函数L将wx+b对应一个隐状态p,p =L(wx+b),...原创 2019-09-03 17:25:27 · 529 阅读 · 0 评论 -
pytorch学习笔记-基础-数据的加载和预处理
PyTorch 基础 :数据的加载和预处理PyTorch通过torch.utils.data对一般常用的数据加载进行了封装,可以很容易地实现多线程数据预读和批量加载。 并且torchvision已经预先实现了常用图像数据集,包括前面使用过的CIFAR-10,ImageNet、COCO、MNIST、LSUN等数据集,可通过torchvision.datasets方便的调用import torch...原创 2019-08-22 21:37:15 · 553 阅读 · 0 评论 -
pytorch学习笔记-基础-nn和optim
神经网络包nn 和优化器optmtorch.nn是专门为神经网络设计的模块化接口。nn构建于 Autograd之上,可用来定义和运行神经网络。 这里我们主要介绍几个一些常用的类import torchimport torch.nn as nntorch.__version__'1.2.0'nn.functional这个包中包含了神经网络中使用的一些常用函数,这些函数的特点是,不具有...原创 2019-08-22 15:25:32 · 297 阅读 · 0 评论 -
pytorch学习笔记-基础-自动求导
import torchtorch.__version__'1.2.0'使用PyTorch计算梯度数值PyTorch的Autograd模块实现了深度学习的算法中的向传播求导数,在张量(Tensor类)上的所有操作,Autograd都能为他们自动提供微分,简化了手动计算导数的复杂过程。在0.4以前的版本中,Pytorch使用Variable类来自动计算所有的梯度Variable类主要包...原创 2019-08-22 15:24:22 · 825 阅读 · 0 评论 -
pytorch学习笔记-入门-张量
# %matplotlib inlinePyTorch是什么?基于Python的科学计算包,服务于以下两种场景:作为NumPy的替代品,可以使用GPU的强大计算能力提供最大的灵活性和高速的深度学习研究平台import torch 创建一个5*3的矩阵,但是未初始化:x = torch.empty(5,3)print(x)tensor([[1.0194e-38, 4.683...原创 2019-08-22 10:17:56 · 200 阅读 · 0 评论 -
pytorch学习笔记-入门-自动求导
%matplotlib inlineAutograd自动求导机制:Pytorch中所有神经网络的核心是autograd包。autograd包为张量上所有操作提供了自动求导。他是一个运行时定义的框架,这意味着反向传播是根据你的代码来确定如何运行。并且每次迭代可以是不同的。张量(Tensor)torch.Tensor是这个包的核心类。如果设置 .requires_grad 为 True,那...原创 2019-08-22 10:16:50 · 215 阅读 · 0 评论 -
pytorch学习笔记-入门-定义网络
%matplotlibUsing matplotlib backend: TkAgg神经网络的典型训练过程如下:1:定义包含一些参数(或者权重)的神经网络模型2:在数据集上迭代,3:通过神经网络处理输入4:计算损失,输出值和正确值的插值大小5:将梯度反向传播会回网络的参数6:更新网络的参数,主要使用如下的更新原则:weight = weight - learning_rate ...原创 2019-08-22 10:15:13 · 339 阅读 · 0 评论 -
pytorch学习笔记-入门-训练一个分类器
%matplotlibUsing matplotlib backend: TkAgg训练一个分类器:上一讲中已经看到如何去定义一个神经网络,计算损失和更新网络权重训练一个图像分类器依次按照下列顺序进行:使用torchvision加载和归一化CIFAR10训练集和测试集定义一个卷积神经网络定义损失函数在训练集上训练网络在测试集上测试网络读取和归一化CIFAR10使用to...原创 2019-08-22 10:13:55 · 225 阅读 · 0 评论 -
pytorch学习笔记-基础-张量
Torch基础,张量#首先要引入相关的包import torchimport numpy as nptorch.__version__'1.2.0'张量的英文是Tensor,它是PyTorch里面基础的运算单位,与Numpy的ndarray相同都表示的是一个多维的矩阵。 与ndarray的最大区别就是,PyTorch的Tensor可以在 GPU 上运行,而 numpy 的 ndar...原创 2019-08-22 10:12:06 · 258 阅读 · 0 评论 -
pytorch学习笔记-入门-训练一个分类器
# 训练一个分类器:上一讲中已经看到如何去定义一个神经网络,计算损失和更新网络权重#训练一个图像分类器依次按照下列顺序进行:#使用torchvision加载和归一化CIFAR10训练集和测试集定义一个卷积神经网络定义损失函数在训练集上训练网络在测试集上测试网络#读取和归一化CIFAR10使用torchvision可以非常容易地加载CIFAR10import torch...原创 2019-08-21 20:15:02 · 209 阅读 · 0 评论 -
pytorch学习笔记-入门-定义网络
#!/usr/bin/env pythoncoding: utf-8In[1]:get_ipython().magic(u’matplotlib’)神经网络的典型训练过程如下:1:定义包含一些参数(或者权重)的神经网络模型2:在数据集上迭代,3:通过神经网络处理输入4:计算损失,输出值和正确值的插值大小5:将梯度反向传播会回网络的参数6:更新网络的参数,主要使用如下的更新原则:...原创 2019-08-21 10:33:28 · 902 阅读 · 1 评论 -
pytorch学习笔记-入门-自动求导
#!/usr/bin/env python# coding: utf-8# In[1]:get_ipython().magic(u'matplotlib inline')# # Autograd自动求导机制:# Pytorch中所有神经网络的核心是autograd包。# autograd包为张量上所有操作提供了自动求导。他是一个运行时定义的框架,这意味着反向传播是根据你的代...原创 2019-08-16 23:04:24 · 193 阅读 · 0 评论 -
pytorch学习笔记-入门-张量
#!/usr/bin/env python# coding: utf-8# In[1]:# %matplotlib inline# PyTorch是什么?# # 基于Python的科学计算包,服务于以下两种场景:# # 作为NumPy的替代品,可以使用GPU的强大计算能力# 提供最大的灵活性和高速的深度学习研究平台# # In[2]:impo...原创 2019-08-16 23:01:17 · 141 阅读 · 0 评论 -
Pytorch学习笔记-Pytorch的安装和简单测试
安装:1:直接conda install pytorch-cpu -c pytorch结果:网络超时报错2:把下载源转化到清华镜像https://blog.youkuaiyun.com/watermelon1123/article/details/88122020conda install pytorch-cpu pytorch结果:仍然下载报错,网络超时3:去清华软件园直接下载安装包,网...原创 2019-08-13 22:40:03 · 4164 阅读 · 0 评论