weixin_42888638的博客

训练一个分类器训练一个图像分类器依次按照下列顺序进行：使用torchvision加载和归一化CIFAR10训练集和测试集定义一个卷积神经网络定义损失函数在训练集上训练网络在测试集上测试网络1. 读取和归一化 CIFAR10使用torchvision可以非常容易地加载CIFAR10。import torchimport torchvisionimport torchvision.transforms as transformstorchvision的输出是[0,1]的PILImag

Neural Networks使用torch.nn包来构建神经网络。nn包依赖autograd包来定义模型并求导。 一个nn.Module包含各个层和一个forward(input)方法，该方法返回output。它是一个简单的前馈神经网络，它接受一个输入，然后一层接着一层地传递，最后输出计算的结果。神经网络的典型训练过程如下：1.定义包含一些可学习的参数(或者叫权重)神经网络模型；2.在数据集上迭代；3.通过神经网络处理输入；4.计算损失(输出结果和正确值的差值大小)；5.将梯度反向传播回

Autograd: 自动求导机制PyTorch 中所有神经网络的核心是autograd 包。autograd包为张量上的所有操作提供了自动求导。torch.Tensor是这个包的核心类。如果设置 .requires_grad为 True（True代表此变量处需要计算梯度，False代表不需要），那么将会追踪所有对于该张量的操作。 当完成计算后通过调用.backward()，自动计算所有的梯度， 这个张量的所有梯度将会自动积累到 .grad 属性。要阻止张量跟踪历史记录，可以调用.detach()方法

PyTorch 基础 : 张量Tensors（张量）Tensors与Numpy中的 ndarrays类似，但是在PyTorch中 Tensors 可以使用GPU进行计算。简单点说：标量视为零阶张量，矢量视为一阶张量，那么矩阵就是二阶张量。from __future__ import print_functionimport torch1.创建tensor，使用现有数据初始化:x = torch.tensor([5.5, 3])print(x)tensor([5.5000, 3.000

Pytorch 简介Torch是什么？Torch是一个与Numpy类似的张量（Tensor）操作库，与Numpy不同的是Torch对GPU支持的很好，Lua是Torch的上层包装.PyTorch和Torch使用包含所有相同性能的C库：TH, THC, THNN, THCUNN，并且它们将继续共享这些库。其实PyTorch和Torch都使用的是相同的底层，只是使用了不同的上层包装语言。PyTorch是一个基于Torch的Python开源机器学习库，用于自然语言处理等应用程序。 它主要由Fa

4.2.1 使用Visdom在 PyTorch 中进行可视化Visdom是Facebook在2017年发布的一款针对PyTorch的可视化工具。visdom由于其功能简单，一般会被定义为服务器端的matplot，也就是说我们可以直接使用python的控制台模式进行开发并在服务器上执行，将一些可视化的数据传送到Visdom服务上，通过Visdom服务进行可视化。安装pip install visdom在本地启动服务器python -m visdom.server启动后会提示It's Alive

4.1 Fine tuning 模型微调4.1.1 什么是微调针对于某个任务，自己的训练数据不多，那怎么办？我们先找到一个同类的别人训练好的模型，把别人现成的训练好了的模型拿过来，换成自己的数据，调整一下参数，再训练一遍，这就是微调（fine-tune）。为什么要微调对于数据集本身很小（几千张图片）的情况，从头开始训练具有几千万参数的大型神经网络是不现实的，因为越大的模型对数据量的要求越大，过拟合无法避免。这时候如果还想用上大型神经网络的超强特征提取能力，只能靠微调已经训练好的模型。可以降低训练