Gloria_Song的博客

上一篇博客主要讨论了关于回归的问题，这一节课主要讨论分类问题，其实网络的结构大同小异只是在数据集 上有一些差异。小demo：分类实现import torchimport torch.nn.functional as Ffrom torch.autograd import Variableimport matplotlib.pyplot as pltimport num...

这一部分比较简单，就直接上代码了code实现import torch.nn as nnimport torch.optim as optimcriterion=nn.CrossEntropyloss() #这里使用的是交叉熵损失optimizer=optim.SGD(net.parameters(),lr=0.001,momentum=0.9) #随机梯度下降...

1.在前三部分已经分别完成了数据的处理、神经网络的定义，还有优化器、损失函数的选择，这次我们将开始学习如何训练模型。2.模型的训练其实也是套路，大致分为一下五个部分。1）加载trainloader中的数据，并将其转换为Variable 形式的数据，作为神经网络的输入。2）每次循环开始之前，确保梯度的值为0. optimizer.zero_grad()3）前向传播。也就是将数据f...

个人认为神经网络的的搭建代码虽然很简单，但是确实最为重要的一部分。话不多说，开始介绍。神经网络的定义其实很简单，就是两部分，这个是基本的套路。1）_init_() 初始化网络，定义网络的一些参数，以及他的层结构2）forward() 定义层结构之间的关系可能没太看明白，没关系看了代码你就会很清晰了小demo:import torchimport torch.n...

写在前边：最近在博客上遇到了个不错的博主，通过读他的博客自己做一些笔记，与大家分享https://pytorch.org/tutorials/beginner/blitz/cifar10_tutorial.html这个是pytorch 的官方教程深度学习的框架主要包括以下四个流程：数据加载和处理——>模型定义（包括损失函数的选择）——>训练——>测试load...

神经网路越复杂，数据量越大，训练网络所需要的时间就越多。有时候为了解决复杂的问题，复杂的网络跟庞大的数据是不可缺少的。所以寻找了一些方法，加速神经网络的训练。1.SGD（Stochastic Gradient Descent）随机梯度下降法这种方法是将数据分成一小批一小批的进行训练。但是速度比较慢。更新参数的方式 w+=-lr * dx lr是学习率，dx 是校正值2.Mome...

我们之前的代码中都是将所有的数据一起feed到神经网络中进行训练，但是当数据量比较大的时候，效率就会下下降，这个时候就需要批训练，分批把数据feed到网络中，这样会提高效率。小demo:import torchimport matplotlib.pyplot as plt#进行批训练的时候需要用到data这个模块import torch.utils.data as Datafro...

之前我们学习了如何去搭建训练神经网络，接下来就要学习如何将训练好的神经网络进行保存，在需要的时候进行提取呢？保存神经网络有两种方法：保存整个神经网络 保存神经网络的参数，不保存他的结构提取也有两种方法：直接进行提取 先创建一个跟提取的神经网络一模一样的神经网络，然后再将各个参数传入神经网络即可。小demo:import torchimport torch.nn.fun...

之前我们都是使用定义class 的方式来构建神经网络，接下来介绍一种使用简便的方式搭建的 神经网络，跟之前的方法效果是一样的。#method1 class Net(torch.nn.Module): def __init__(self,n_feature,n_hidden,n_output): super(Net,self).__init__() ...

神经网络主要分为分类、回归两大类分类：输出是离散的值，比如说二分类问题，判断神经网络输入的是不是猫咪，结果就是0或是1，是还是不是。 回归：输出的连续的值，比如说对于放假的预测（房子好贵呀~），根据不同的地域，平米数，预测出不同的值 小demo：回归实现 # 导入一些相应的包#解决python2 和 python 3之间一些输出格式的不同，一律使用python 3fr...