<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[miodi的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/miodi</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; miodi]]></copyright><item><title><![CDATA[循环神经网络（一）---]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140864441</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140864441</guid><author>miodi</author><pubDate>Fri, 02 Aug 2024 18:30:00 +0800</pubDate><description><![CDATA[前面介绍过多层全连接网络和卷积神经网络，可以发现这些网络不需要记忆的特性也能处理对应的任务，下面举一个具体的例子引出循环神经网络。首先我们来看看下面这两句话，如图5.1与图5.2所示。第一句话表达到达北京的意思，第二句话表达离开北京的意思。对于这样一个任务，如果网络只输入 “beijing” 这个词而没有记忆的特性，那么对于这两句话，网络会输出相同的结果。但是如果网络能够记忆 “beijing” 前面的词，它就会预测出不同的结果，所以说神经网络需要记忆的特性。]]></description><category></category></item><item><title><![CDATA[卷积神经网络随记]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140814447</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140814447</guid><author>miodi</author><pubDate>Wed, 31 Jul 2024 19:30:00 +0800</pubDate><description><![CDATA[一般而言，几个小滤波器卷积层的组合比一个大滤波器卷积层要好，比如层层堆叠了3个3x3的卷积层，中间含有非线性激活层，在这种排列下面，第一个卷积层中每个神经元对输入数据的感受野是3x3，第二层卷积层对第一层卷积层的感受野也是3x3，这样对于输入数据的感受野就是5x5，同样，第三层卷积层上对第二层卷积层的感受野是3x3，这样第三层卷积层对于第一层输入数据的感受野就是7x7。要提取卷积模块并使用print打印出来，可以遍历模型的层，检查每一层是否为卷积层（nn.Conv2d），如果是，则打印出该层的详细信息。]]></description><category></category></item><item><title><![CDATA[深度学习代码错误随记]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140498320</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140498320</guid><author>miodi</author><pubDate>Wed, 31 Jul 2024 18:30:00 +0800</pubDate><description><![CDATA[这个错误是因为在创建MNIST数据集时，传入了一个不支持的关键字参数'transforms'。要解决这个问题，你需要将'transforms'参数替换为正确的参数名。在PyTorch中，MNIST数据集的正确参数名是'transform'。解决办法：这个错误是因为你试图将一个在GPU上的tensor转换为numpy数组，但是这是不可能的。你需要先将tensor转移到CPU上，然后再转换为numpy数组。解决方法：这个错误是因为在计算损失时，输入和目标的大小不匹配。转换为 numpy 数组，然后再进行计算。]]></description><category></category></item><item><title><![CDATA[卷积神经网络（六）---实现 cifar10 分类]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140789369</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140789369</guid><author>miodi</author><pubDate>Tue, 30 Jul 2024 19:30:00 +0800</pubDate><description><![CDATA[最后在 cifar10 的数据集上跑100个 epoch，实现66.61%的训练集准确率，68%的验证集准确率，因为这里只跑了100次，所以还有一定的提升空间。cifar10 数据集有60000张图片，每张图片的大小都是 32x32 的三通道的彩色图，一共是10种类别、每种类别有6000张图片，如图4.27所示。因为这里我是按照自己的想法写的普通版本的 cifar10 分类识别，所以准确率最后并不是很高，如果有人读懂了上面的方法，可以进行试一试。首先进行图像增强，使用前面介绍的增强方式。]]></description><category></category></item><item><title><![CDATA[卷积神经网络（五）---图像增强的方法]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140787959</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140787959</guid><author>miodi</author><pubDate>Tue, 30 Jul 2024 18:30:00 +0800</pubDate><description><![CDATA[如果拍摄照片的照相机位置发生了改变，那么拍得的图片对于我们而言，变化很小，但是对于计算机而言，图片的像素变化是很大的。拍照时的光照条件也是很重要的一个影响因素：光照太弱，照片里的物体会和背景融为一体，它们的像素点就会很接近，计算机就无法正确识别出物体，如图4.24所示。除此之外，物体本身的变形也会对计算机识别造成障碍，比如一只猫是趴着的，计 算机能够识别它，但如果猫换了一个姿势，变成躺着的状态，那么计算机就无法识别了，如图 4.25所示。]]></description><category></category></item><item><title><![CDATA[卷积神经网络（四）---再实现MNIST手写数字识别]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140771467</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140771467</guid><author>miodi</author><pubDate>Mon, 29 Jul 2024 20:00:00 +0800</pubDate><description><![CDATA[上面这个简单的卷积神经网络是运用之前所学到的知识来建立的，里面有4层卷积，2层最大池化，卷积之后使用批标准化加快收敛速度，使用ReLU激活函数增加非线性，最后使用全连接层输出分类得分。最后再测试一下网络的结果，可以看到测试集准确率已经达到了99.27%，比之前使用的3层全连接神经网络要高。可以看到通过增加网络的深度和复杂化网络的结构提高网络的准确率是可行的，下面我们将从数据方面出发来提高网络的准确率。]]></description><category></category></item><item><title><![CDATA[卷积神经网络（三）---案例分析]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140714087</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140714087</guid><author>miodi</author><pubDate>Mon, 29 Jul 2024 19:00:00 +0800</pubDate><description><![CDATA[上面部分介绍了 PyTorch 中的卷积模块，接下来将会介绍几个卷积神经网络的案例，通过案例入手来介绍卷积神经网络的结构设计。]]></description><category></category></item><item><title><![CDATA[卷积神经网络（二）---PyTorch卷积模块]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140691209</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140691209</guid><author>miodi</author><pubDate>Fri, 26 Jul 2024 18:30:00 +0800</pubDate><description><![CDATA[有时候提取出的层结构并不够，还需要对里面的参数进行初始化，那么如何提取出网络的参数并对其初始化呢？首先 nn.Module() 里面有两个特别重要的关于参数的属性，分别是 named_parameters() 和 parameters()。named_parameters() 是给出网络层的名字和参数的迭代器，parameters() 会给出一个网络的全部参数的迭代器。可以得到每一层参数的名字，如图 4.15所示。图 4.15  得到每一层参数的名字如何对权重做初始化呢？]]></description><category></category></item><item><title><![CDATA[卷积神经网络（一）---原理和结构]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140655423</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140655423</guid><author>miodi</author><pubDate>Thu, 25 Jul 2024 19:00:00 +0800</pubDate><description><![CDATA[首先介绍卷积神经网络的参数。这些参数是由一些可学习的滤波器集合构成的，每个滤波器在空间上(宽度和高度)都比较小，但是深度和输入数据的深度保持一致。举例来说，卷积神经网络的第一层卷积一个典型的滤波器的尺寸可以是5x5x3(宽和高都是5)，或者是3x3x3(宽和高都是3)，这里的宽度和高度可以任意定义，但是深度必须是3，因为深度要和输入一致，而输入的图片是3通道的。在前向传播的时候，让每个滤波器都在输入数据的宽度和高度上滑动(卷积)，然后计算整个滤波器和输入数据任意一处的内积。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络随记]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140638040</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140638040</guid><author>miodi</author><pubDate>Thu, 25 Jul 2024 18:30:00 +0800</pubDate><description><![CDATA[在这个例子中，`enumerate(train_loader, 0)`表示从`train_loader`的第一个元素开始遍历，并将当前元素的索引赋值给变量`i`，同时将元素本身赋值给变量`data`。例如，在深度学习中，较快的收敛速度意味着模型经过更少的训练迭代就能找到一组较好的参数配置，这可以在较短的时间内获得较高的性能表现。- **计算**：在每个`epoch`结束时，通常会计算模型在该`epoch`上的准确率，这涉及将模型对验证集或测试集中每个样本的预测与真实标签进行比较，并统计正确预测的数量。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络（八）---实现MNIST手写数字分类]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140602563</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140602563</guid><author>miodi</author><pubDate>Wed, 24 Jul 2024 05:00:00 +0800</pubDate><description><![CDATA[在 PyTorch 里面可以很简单地定义三层全连接神经网络。对于这个三层网络，需要传递进去的参数包括：输入的维度、第一层网络的神经元个数、第二层网络神经元的个数，以及第三层网络(输出层)神经元的个数。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络（七）---处理数据和训练模型的技巧]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140627511</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140627511</guid><author>miodi</author><pubDate>Tue, 23 Jul 2024 16:00:00 +0800</pubDate><description><![CDATA[数据预处理中一个最常见的处理办法就是每个特征维度都减去相应的均值实现中心化，这样可以使得数据变成0均值，特别对于一些图像数据，为了方便我们将所有的数据都减去一个相同的值。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络（六）---各种优化算法的变式]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140553782</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140553782</guid><author>miodi</author><pubDate>Mon, 22 Jul 2024 16:00:00 +0800</pubDate><description><![CDATA[梯度下降算法原理此处不做过多说明。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络（五）---反向传播算法]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140549973</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140549973</guid><author>miodi</author><pubDate>Sat, 20 Jul 2024 05:00:00 +0800</pubDate><description><![CDATA[对于有需要讲解链式法则的朋友，后续会补充。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络（四）---简单的前向网络]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140529322</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140529322</guid><author>miodi</author><pubDate>Fri, 19 Jul 2024 19:00:00 +0800</pubDate><description><![CDATA[神经网络神经元概念部分有需要会单独再讲。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络（三）---分类问题]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140513917</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140513917</guid><author>miodi</author><pubDate>Thu, 18 Jul 2024 20:00:00 +0800</pubDate><description><![CDATA[机器学习中的监督学习主要分为回归问题和分类问题，我们之前已经讲过回归问题了，它希望预测的结果是连续的，那么分类问题所预测的结果就是离散的类别。这时输入变量可以是离散的，也可以是连续的，而监督学习从数据中学习一个分类模型或者分类决策函数，它被称为分类器(classifier)。分类器对新的输入进行输出预测，这个过程即称为分类(classification)。例如，判断邮件是否为垃圾邮件，医生判断病人是否生病，或者预测明天天气是否下雨等。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络（二）]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140494357</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140494357</guid><author>miodi</author><pubDate>Wed, 17 Jul 2024 21:00:00 +0800</pubDate><description><![CDATA[线性回归的原理，如果有需要，可以单独拿出来讲。]]></description><category></category></item><item><title><![CDATA[多层全连接神经网络（一）]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140467668</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140467668</guid><author>miodi</author><pubDate>Tue, 16 Jul 2024 21:30:00 +0800</pubDate><description><![CDATA[PyTorch 里面处理的最基本的操作对象就是 Tensor，Tensor 是张量的英文，表示的是一个多维的矩阵，比如零维就是一个点，一维就是向量，二维就是一般的矩阵，多维就相当于一个多维的数组，这和 numpy 是对应的，而且 PyTorch 的 Tensor 可以和 numpy 的 ndarray 相互转换，唯一不同的是 PyTorch 可以在 GPU 上运行，而 numpy 的 ndarray 只能在 CPU 上运行。]]></description><category></category></item><item><title><![CDATA[深度学习框架介绍]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/140438407</link><guid>https://blog.youkuaiyun.com/miodi/article/details/140438407</guid><author>miodi</author><pubDate>Mon, 15 Jul 2024 19:00:00 +0800</pubDate><description><![CDATA[首先要介绍的当然是 Google 开源的TensorFlow，这是一款使用C++语言开发的开源数学计算软件，使用数据流图(Data Flow Graph)的形式进行计算。图中的节点代表数学运算，而图中的线条表示多维数据数组(tensor)之间的交互。TensorFlow灵活的架构可以部署在一个或多个CPU、GPU的台式及服务器中，或者使用单一的API应用在移动设备中。]]></description><category></category></item><item><title><![CDATA[6.2 通过构建情感分类器训练词向量]]></title><link>https://blog.youkuaiyun.com/miodi/article/details/139988613</link><guid>https://blog.youkuaiyun.com/miodi/article/details/139988613</guid><author>miodi</author><pubDate>Wed, 26 Jun 2024 21:30:00 +0800</pubDate><description><![CDATA[在上一节中，我们简要地了解了词向量，但并没有去实现它。在本节中，我们将下载一个名为IMDB的数据集(其中包含了评论)，然后构建一个用于计算评论的情感是正面、负面还是未知的情感分类器。在构建过程中，还将为 IMDB 数据集中存在的词进行词向量的训练。我们将使用一个名为 torchtext 的库，这个库使下载、向量化文本和批处理等许多过程变得更加容易。训练情感分类器将包括以下步骤。]]></description><category></category></item></channel></rss>