wxchyy的博客

本期介绍了生成式对抗网络（GAN），现在我们对比一下VAE和GAN。1 VAE是利用已有图像在编码器生成潜在向量，这个向量在服从高斯分布的情况下很好地保留了原图像的特征，在解码器得到的图片会更加的合理与准确。VAE适合于学习具有良好结构的潜在空间，潜在空间有比较好的连续性，其中存在一些有特定意义的方向。VAE能够捕捉到图像的结构变化（倾斜角度、圈的位置、形状变化、表情变化等）​。2 GAN生成的潜在空间可能没有良好结构，但GAN生成的图像一般比VAE的更清晰。

本期以一个生成手写数字图像的图像讲述了VAE模型架构的原理，下期我们将以GAN的方式完成这个实践。

本期先介绍了GCN图卷积神经网络的基础知识，再通过一个实例让大家能够更好的理解GCN的原理，下期如果有时间的话，会给大家介绍GAN，核心实际上也是在重构邻接矩阵。

本期介绍了RNN、LSTM以及GRU，并用一个小示例LSTM预测股票的行情来让大家加深对于循环神经网络的了解。

本期使用了VGG16架构的卷积神经网络去处理了上期讲的CIFAR-10多分类问题，精度相较于上期也是有了不小的提高，下期我们实践操作RNN循环神经网络。

CIFAR-10数据集由10个类的60000个32×32彩色图像组成，每个类有6000个图像。有50000个训练图像和10000个测试图像。1 引入头文件2 数据集下载笔者把数据集放在百度网盘里了，有需要的可以自取。数据集注意：本项目我们只需要用到python版本，将这个文件解压在你的数据文件路径之下。由于我们已经下载并解压了文件夹，所以我们用torchvision.datasets.CIFAR10函数的参数download设置为False。

本期将对深度学习中所需要的基础知识进行总结。之后几期我们将开启实战专栏，一步一步带领大家搭建深度神经网络，从入门到实践。RMSprop、Adadelta和Adam被认为是自适应优化算法，因为它们会自动更新学习率。而使用SGD时，必须手动选择学习率和动量参数，通常会随着时间的推移而降低学习率。有时可以考虑综合使用这些优化算法，如采用先使用Adam，然后使用SGD的优化方法，这个想法，实际上是由于在训练的早期阶段SGD对参数调整和初始化非常敏感。

本期将介绍深度学习PyTorch框架。utils.data包括Dataset和DataLoader。torch.utils.data.Dataset为抽象类。定义数据集需要继承这个类，并实现两个函数，一个是__len__，另一个是__getitem__。__getitem__一次只能获取一个数据，所以需要通过torch.utils.data.DataLoader来定义一个新的迭代器，实现batch读取。dataset,shuffle=False,#是否将数据打乱sampler=None,#样本抽样。

本期笔者将开设新的专栏深度学习，手把手带领大家进入深度学习的世界，不过在这之前，我们需要先学习Pytorch框架，而学习Pytorch首先需要对Numpy有一定了解。Numpy支持向量化运算，相较于Python中的循环速度快了大概400倍。本期为Numpy基础。下期为Pytorch入门。Numpy的创建以及操作到此就基本结束了，下一篇我们将介绍一下Pytorch框架。