weixin_42306148的博客

从有代码的课程开始讨论Lecture02——Linear Model本课程的主要任务是构建一个完整的线性模型：导入numpy和matplotlib库；导入数据 x_data 和 y_data;定义前向传播函数:forward：输出是预测值y_hat定义损失函数：loss：损失函数定义为MSE：均方根误差创建两个空列表，因为后面绘图的时候要用：分别是横轴的w_list和纵轴的mse_list开始计算（我觉得这里没有训练的概念，只是单纯的计算每一个数据对应的预测值，然

几句题外话深度学习上手已经很长时间了，还记得最初的入门是跟着B站up小土堆的一步步学起来的，从起初的环境配置，到现在调整整个模型的进阶，非常感谢土堆的贡献。写这个博客的初衷是为了自己看着方便，由于多台电脑多个环境下查看这些内容很麻烦，所以一咬牙把所有内容全都Po出来。现在，也希望对刚上手深度学习的你有帮助。这个系列写完好了好久了，是根据我看过好几次的一个教程整理过来的，我觉得收益非常大，现在把目录写在这里：首先附上土堆的B站视频链接：土堆最棒👆点击查看P6-P7 数据加载P8-9 _T

问题描述：我不能在安装路径下，找到上述的python解释器；见下面俩图：这里必须得记录一下，这个python解释器的位置，是怎么找到的，其实也简单，就是进入了所需的conda环境之后，用which python3，就可以看到路径了。状态：pycharm的终端里面，确实通过conda activate更换到了虚拟环境，但是，pycharm的interpreter里面没有索引到所需虚拟环境的python解释器（也就是windows环境下的python3.exe或python3.8.exe）；

还在下载当中，我决定半场开香槟！自信稳定安装成功！ubuntu20.04 安装 pytorch硬件及其他环境：win10 + ubuntu20.04 + 3080显卡查找pytorch的版本是最重要的、也是最耽误时间的PyTorch中torch、torchvision、torchaudio版本对应关系安装过程参考ubuntu安装anaconda unbuntu安装pycharm ubuntu安装pytorch

【一站通】python语言和IDE没有内置matlab方便的可视化图形界面和数据处理库，这也是为什么python安装如此便捷，甚至风靡的原因，给用户极大的自由度去后续装载所需第三方库。本文所介绍的4大python常用数据处理及可视化第三方库，能够缩短python与matlab之间数据处理便捷性的差距。本文打通界限、构建关联，将重要内容和常用函数及操作一网打尽。博主“输出倒逼输入”，也是为了能够能灵活地使用它们，并企图更深入地理解python语言和深度学习方法。

【代码】【Jupyter Notebook】Jupyter Notebook使用时出现的问题。

问题描述：解决方法：pip install --upgrade --user nbconvert。

【代码】【Debug】UserWarning: size_average and reduce args will be deprecated, please use reduction='sum'

数据集的常用格式：h5深度学习搞了很长时间，其中开源的代码中经常用到大型数据集，里面的数据类型是h5格式，这个格式困扰我挺长时间，因为隔离还拿不到实验室的程序，只好硬着头皮再琢磨一遍。关于h5文件的基本信息h5这个格式可以把不同模态的数据类型，打包放在一起（有点像压缩），方便传递、下载，可能也方便读取吧，具体它的结构参见其他博客吧，我表述不清楚，其实也没有深入追究，没有必要，只要拿到了里面的内容就可以了；这个博客写的还行，想知道具体是干嘛的，或者追究h5 的数据结构，可以看看：h

numpy基本操作，以前看的视频课入门，不写博客了，直接贴图

这是刘二大人系列课程笔记的 最后一个笔记了，介绍的是 BasicCNN 和 AdvancedCNN ，我做图像，所以后面的RNN我可能暂时不会花时间去了解了；写在前面：本节把基础个高级CNN放在一起记录了，注意查看对应关系；详细的代码理解参看下面的链接：【Pytorch深度学习实践】B站up刘二大人课程笔记——目录与索引（更新中）1. Basic CNN完整代码：#!usr/bin/env python# -*- coding:utf-8 _*-"""@author: 24_nemo

这是刘二大人系列课程笔记的倒数第二个博客了，介绍的是多分类器的原理和代码实现，下一个笔记就是basicCNN和advancedCNN了；写在前面：这节课的内容，主要是两个部分的修改：一是数据集：直接采用了内置的MNIST的数据集，那dataloader和dataset自然也是内置的，那也就不用自己写dataset再去继承Dataset类；把train和test写成了函数形式，直接在main函数当中调用即可；完整代码：#!usr/bin/env python# -*- coding:u

背景介绍：在做softmax多分类任务的过程中，需要下载MNIST数据集，把下载数据集的按钮设置为TRUE之后，出现了下面的错误。遇到的问题：Traceback (most recent call last):File “09_SoftmaxClassifier_handType.py”, line 23, in train_dataset = datasets.MNIST(root=‘…/dataset/mnist’,File “D:\Software\Anaconda3\envs\Re

开篇讲两句：本节内容，主要是把数据集写成了一个类，然后把之前直接在文件夹中读取数据的方式进行了修改；数据集类里面有三个函数，这三个函数较为固定，分别自己的作用；后面加载数据的DataLoader（注意L大写），直接可以调用对数据集类做了实例化的对象，即把他当做一个参数，传入DataLoader当中;完整代码：在这里插入代码片...

开篇讲两句：这节课的内容跟上一节的递进关系，在于输入数据的维度，不再是原本的一维数值（标量）；而是升级为多维向量，这更符合多个自变量共同影响输出的实际应用场景，想起了吴恩达课程中的房价预测模型，卧室数量、厨房数量等，可以绑定在一起构成向量的形式，作为输入。完整代码：#!usr/bin/env python# -*- coding:utf-8 _*-"""@author: 24_nemo@file: 07_MultipleDimensionInput_handType.py@time: 202

开篇讲两句：这里的原理还是要静下心来理解透，理解透了才能用的出来。拼写不能出错，这么低级的错误，卡住了两天。step的拼写。完整代码：#!usr/bin/env python# -*- coding:utf-8 _*-"""@author: 24_nemo@file: 06_Logistic Regression_handType.py@time: 2022/04/10@desc:"""import torchimport matplotlib.pyplot as pltimp

开篇讲两句：代码对我还是不简单，还是要花时间。我反应不过来变量之间的关系，没办法很快的想清楚这个过程。完整代码：#!usr/bin/env python# -*- coding:utf-8 _*-"""@author: 24_nemo@file: 05_LinearRegressionwithPyTorch_handType.py@time: 2022/04/08@desc:"""import matplotlib.pyplot as pltimport torchimport

开篇讲两句：以往的代码，都是随便看看就过去了，没有这样较真过，以至于看了很久的深度学习和Python，都没有能够形成编程能力；这次算是废寝忘食的深入进去了，踏实地把每一个代码都理解透，包括其中的数学原理（目前涉及的还很浅）和代码语句实现的功能；也是得益于疫情封闭在寝室，才有如此踏实的心情和宽松的时间，最重要的是周边的环境，没有干扰。完整代码：#!usr/bin/env python# -*- coding:utf-8 _*-"""@author: 24_nemo@file: 04_Bac

开篇讲两句：刘二大人的课程我是从前天(4月5日)开始看的，今天看完了advanced cnn这部分，我做的也是图像，所以开始撸代码了，这次一定要理解清楚；对于刘老师的课程，我想说的是，他讲的非常透彻，不过门槛并不低，我有之前一段时间的pytorch跑通过几个github项目的基础和一些基本环境配置等基础，才能跟得上；另一方面，刘老师不仅自己理解很彻底，讲起来也很流利，同时还解开了我一直以来困扰的好几个问题，比如resnet是怎么把梯度消失问题解决的，刘老师两页PPT完全给我讲明白了，非常感谢！完整代

开篇讲两句：刘二大人的课程我是从前天(4月5日)开始看的，今天看完了advanced cnn这部分，我做的也是图像，所以开始撸代码了，这次一定要理解清楚；对于刘老师的课程，我想说的是，他讲的非常透彻，不过门槛并不低，我有之前一段时间的pytorch跑通过几个github项目的基础和一些基本环境配置等基础，才能跟得上；另一方面，刘老师不仅自己理解很彻底，讲起来也很流利，同时还解开了我一直以来困扰的好几个问题，比如resnet是怎么把梯度消失问题解决的，刘老师两页PPT完全给我讲明白了，非常感谢！完整代

上一次写这个代码是3月27日，以下是4月4日的结果，还是太慢了！完整代码：# ！usr/bin/env python3# -*- coding:utf-8 -*-"""@author : 24nemo @date : 2022年03月19日"""import mathimport operatorimport randomimport cv2import numpy as npclass Creature(object): def __init__(self):

# ！usr/bin/env python3# -*- coding:utf-8 -*-"""@author : 24nemo @date : 2022年03月19日"""import operatorimport randomimport timeimport cv2import numpy as npclass Creature(object): def __init__(self): self.weight = np.zeros(9)

文章目录问题导入下载位置导入离线包验证是否安装成功下一篇：[【4篇博客pytorch环境安装全纪录(三)】anaconda离线安装pytorch](https://blog.youkuaiyun.com/weixin_42306148/article/details/123649263)问题导入安装torch时候需要和torchvision有版本对应关系，故做笔记方便后期查看错误分析：安装pytorch或torchvision时，无法找到对应版本cuda可以找到，但是无法转为.cuda()以上两种

上一篇：Win安装Pycharm文章目录上一篇：[Win安装Pycharm](https://editor.youkuaiyun.com/md/?articleId=123648904)创建虚拟环境进入虚拟环境在虚拟环境下安装下载好的.whl文件从镜像安装numpy创建虚拟环境命令行输入：conda create -n pytorch000 python=3.7进入虚拟环境conda activate pytorch000在虚拟环境下安装下载好的.whl文件导入离线文件的时候，要先进入到离线文件所

文章目录Anaconda 是什么介绍特点Anaconda具有如下特点其特点的实现主要基于Anaconda拥有的：Anaconda、conda、pip、virtualenv的区别Anaconda安装条件安装平台安装条件Anaconda安装下载安装包安装过程常用命令重要说明：转载自：Anaconda 是什么介绍Anaconda是可以便捷获取包且对包能够进行管理，同时对环境可以统一管理的发行版本。Anaconda包含了conda、Python在内的超过180个科学包及其依赖项。特点Anaconda具有

P32 完整的模型验证套路利用已经训练好的模型，给他一个输入，进行测试：实际验证过程：-报错处理：在gpu上训练的结果，想要用在cpu电脑上，做test，需要第38行，这一步叫：做映射（map）：可以运行的代码# ！usr/bin/env python3# -*- coding:utf-8 -*-"""author :24nemo date :2021年07月07日"""import torchimport torchvisionfrom PIL impo

ReLUReplace的设置：激活函数，只有一个batch_size参数需要设置。效果：可以运行的代码# ！usr/bin/env python3# -*- coding:utf-8 -*-"""author :24nemo date :2021年07月07日"""import torchimport torchvisionfrom torch import nnfrom torch.nn import ReLU, Sigmoidfrom torch.

P31 GPU加速_2想要在GPU上运行，只需要定义几处，跟 第一种方法 需要修改的位置是一样的：不同之处在于：在最前面，需要加第20行：如果使用gpu，就用“cuda”，如果使用cpu，就直接用“cpu”：使用GPU加速的第二种方法： .to(device)：先定义：device = torch.device(“cpu”)在损失函数、网络模型两个位置，可以简略地写：如62和66行，不必再返回给原来的变量：只有在数据的位置，是必须要把imgs.to(device)再返回给

P30 GPU加速调用 GPU的两种方法：1、调用 .cuda()在这三个内容后面，加上 .cuda()方法下图中，在原来的三种内容上，分别加上.cuda( )，就可以了：让他们的返回值，继续等于原来的变量名，就可以不用管框架中的其他内容了：还有个loss function，不截图了。还有更规范的写法，这样的写法，可以避免没有gpu的电脑上跑不通的弊端：在视频中，还比较了cup和gpu的计算时间：注意在哪里添加start_time和end_time，以及做差：

P27、28、29 完整的模型套路一步一步跟着做笔记：查看数据集的长度：把写好的这部分，单独放在一个模块里，起名叫做model：这个模块，稍加改动，比如添加import，再用一个测试的torch.ones( )，整理如下：输出为：这是一个分类的网络，里面的10，表示在每一个类别里，所出现的概率是多大：再在train.py中，import刚才写的model，之后，就可以直接实例化了：tudui=TuDui( ):截图略下面是训练结束，准备写测试的过程，注意，这

P26 网络模型的保存和加载保存方式1：加载模型方式1：可以debug看看每一层都有啥：保存方式2：加载模型方式2（与方式1加载方式一样，但是没有框架，只有参数）：由于第2种加载方式中只包含参数，没有模型结构，所以，当vgg16_method2.pth这个保存了参数的文件已经存在了之后，可以用下图第14行中的方法，把参数放入第13行的vgg16框架当中（这个框架是预训练=False的，所以没有参数，只有框架）：不是很好理解：保存的时候，把参数保存到“

P25 pytorch中现有模型位置：预训练的意思pretrain，是已经在ImageNet数据集上训练好的：progress是对下载的管理：使用的dataset，ImageNet：需要安装scipy库：点开这个ImageNet看里面的信息：里面的重要信息：转而使用已经训练好的model：上图：false意思是不下载已经在ImageNet里面训练好的模型，即conv、pooling layers里面的那些参数，而true就要下载他们。对比二者的参数

P23 loss function计算输出和目标的差距；指明优化方向：注意输入和输出形状：也讲了MSE—lossFunction：MAE结果：梯度下降：查看反向传播的梯度：可以执行的代码# ！usr/bin/env python3# -*- coding:utf-8 -*-"""author :24nemo date :2021年07月07日"""import torchfrom torch import nnfrom

P24 优化器优化器利用反向传播，对参数进行调整。官网中的位置：介绍了优化器的构造过程：optim里面的算法理论很深入，如果不深究，只要parameter和lr需要设置，其他的都是默认参数：上图关注重点在optim.zero_grad()和后面的两行，用调试功能，查看梯度是否有数值。下图是查看的位置：注意每次运行一步之后的梯度是否有数值：Optim.Step()之后的结果：以上就是一轮学习（one epoch）的过程，再在外面嵌套一个20轮的循环：

P21线性层和其它层官方文档有一些写好的网络：线性层：这里的线性层，跟非线性激活，形成对比：线性层，是k和b，对输入数据x，进行一次函数的处理，而非线性激活（激活函数）是在对神经元或者输入，做非线性处理：Recurrent Layers 不太用Transformer LayerLinear Layer 重点讲完了Dropout Layer 不难 为了防止过拟合sparse layer 用于自然语言处理可以运行的代码# ！usr/bin/env py

P22 squential和小实战Sequential能把网络集成在一起，方便使用：写一个针对CIFAR10的数据集，写一个分类网络：有一个1024层的，以前的没有说：在这一集做了这个计算：这里计算的是padding：清清爽爽：可视化：可以运行的代码# ！usr/bin/env python3# -*- coding:utf-8 -*-"""author :24nemo date :2021年07月07日"""'''import torchf

P33 github的使用在github上搜索项目的技巧：按照获得的star数量，排序。推荐下面的project。开源代码的使用技巧：把代码中，参数设置为require的内容，全部改成default，并设置一个默认值；这样就可以在pycharm中，直接运行了。Readme中的运行方式，两个横杠后面，是参数的名称，紧接着，设置的是该参数选择的值。可以运行的代码# ！usr/bin/env python3# -*- coding:utf-8 -*-"""author :24nemo

池化结合代码，看pooling需要注意的地方:stride滑动的默认值，是kernel的大小，跟conv不一样，注意！参数设置中的ceiling=True：Pooling这，一般只有一个参数需要设置：结果：可以运行的代码# ！usr/bin/env python3# -*- coding:utf-8 -*-"""author :24nemo date :2021年07月07日"""from torch import nnfrom torch.

卷积层使用看到 CONV2D是大写的字母，就应该知道这个网页是在哪里：我之前说要回头看怎么做卷积的，就是在这里看到的：上图中有一个link，里面有：参数介绍：其中kernel可以选择其他形状的，在kernel_size中的tuple，可以自己设置特殊的形状：关于channel当图像是1个channel，而kernel是两个：于是，当input不止一个channel，kernel也不止一个，那么需要训练的东西就多了：真是清清爽爽：为了看，输入和输出的chann

卷积在torch.nn.function当中，能够看到跟视频一样的结果，所以，要对torch官网很熟悉，经常去查：代码中说的，kernel和input的四个参数，含义不一样了，指的是这个：可以运行的代码# ！usr/bin/env python3# -*- coding:utf-8 -*-"""author :24nemo date :2021年07月07日"""'''torch.nn 和 torch.nn.functional 是包含关系，functional 指的是