顾伟的博客

今天在这里纪录一下如何对torch网络的层进行更改：变更，增加，删除与查找这里拿VGG16网络举例，先看一下网络结构。

【代码】matplotlib组合图的绘制。二维图片和三维图片

PyTorch学习率调整策略通过torch.optim.lr_scheduler接口实现。PyTorch提供的学习率调整策略分为三大类，分别是有序调整：等间隔调整(Step)，按需调整学习率(MultiStep)，指数衰减调整(Exponential)和余弦退火CosineAnnealing。自适应调整：自适应调整学习率 ReduceLROnPlateau。自定义调整：自定义调整学习率 LambdaLR。注意。

直觉地看，规范化的效果是让网络倾向于学习小一点的权重，其他的东西都一样的。交叉熵：它主要刻画的是实际输出（概率）与期望输出（概率）的距离，也就是交叉熵的值越小，两个概率分布就越接近。其次，L2正则项可导，L1正则项不可导，这样使得带L2正则项的损失函数更方便更容易优化，而带L1正则项的损失函数的优化就比较复杂。也就是说，当预测错误时，损失函数为1，当预测正确时，损失函数值为0。代价函数（Cost Function）：是定义在整个训练集上的，是所有样本误差的平均，也就是所有损失函数值的平均。

CV方向的深度学习算法的结构都大概差不多，大概由6部分构成：DataLoader，Loss、optimizer、lr_scheduler、module、结果可视化。接下来我会一一进行总结。

在我们训练模型时，会经常使用一些小技巧，包括：模型的保存与加载、断点的保存与加载、模型的冻结与预热、模型的预训练与加载、单GPU训练与多GPU训练。这些在我们训练网络的过程中会经常遇到。方法二：仅保存参数（数据量小，推荐！）注意：加载模型权重时，我们需要先实例化模型类，因为该类定义了网络的结构。如果模型的训练时间非常长，而这中间发生了一点小意外，使得模型终止训练，而下次训练时为了节省时间，让模型从断点处继续训练，这就需要在模型训练的过程中保存一些信息，使得模型发生意外后再次训练能从断点处继续训练。所以

想要学习一个网络，最重要的就是网络结构和损失函数，一个讲了网络是怎么学，一个讲了网络将会学成什么样（个人理解）。本文将会对网络进行讲解。

今天开始，要进行代码的学习，先将训练自监督网络的代码跑起来。

我是用笔记本在家训练神经网络，因为速度太慢所以要在网上租一个服务器（矩池云）价格不贵，几块钱一个小时。

Tqdm 是 Python 进度条库，可以在 Python 长循环中添加一个进度提示信息。用户只需要封装任意的迭代器，是一个快速、扩展性强的进度条工具库。推荐这个库的原因是：这个库可以将图片和标签一起变换，而transforms只能变换图片！进入库的源代码后，Notebooks里是在各种不同任务下使用的例子，其实就是教程。在我们面临不同任务时，往往使用到的方法函数也不一样，所以要现用现查。，接下来我教你怎么使用他的帮助文档。

最近，监督深度学习在遥感图像（RSI）语义分割中取得了巨大成功。然而，监督学习进行语义分割需要大量的标记样本，这在遥感领域是很难获得的。自监督学习（SSL）是一种新的学习范式，通过预训练大量未标记图像的通用模型，然后在具有极少标记样本的下游任务上对其进行微调，可以解决此类问题。对比学习是SSL的一种典型方法，可以学习一般的不变特征。然而，大多数现有的对比学习方法是为分类任务设计的，以获得图像级表示，这对于需要像素级区分的语义分割任务可能是次优的。...

上一篇文章讲了YOLOv7的环境搭建和如何用网络进行检测（[文章链接](http://t.csdn.cn/ULbru)），今天我们要用自己的训练集去训练一个属于自己的网络。

本文简单介绍了如何使用YOLOv7进行预测，包括：文件准备；运行环境的搭建；进行预测。

学习笔记-基于全局和局部对比自监督学习的高分辨率遥感图像语义分割-day1

讲到了YOLOv7的网络结构和第四章可训练的方法（bag-of-freebies）

YOLOv7在5FPS到160FPS范围内的速度和精度都超过了所有已知的物体检测器，并且在GPUV100上具有30FPS或更高的所有已知实时物体检测器中具有最高的精度56.8%AP。具体情况如图与其他实时目标检测器的比较，YOLOv7实现了最先进的性能。实时对象检测是计算机视觉中非常重要的主题，因为它通常是计算机视觉系统中的必要组件。目标检测器YOLOv7主要希望它能够同时支持移动GPU和从边缘到云端的GPU设备。...