一路嵌行的博客

# from ptflops import get_model_complexity_info # flops, params = get_model_complexity_info(model, (3,640,640), as_strings=True, print_per_layer_stat=True) # print('FLOPs: ', flops) # print('Params: ', params) # aa # from thop import pr

文章目录一、基础知识-向量的内积二、Gram matrix介绍三、Gram matrix的应用-风格迁移一、基础知识-向量的内积1.1 向量的内积定义：也叫向量的点乘，对两个向量执行内积运算，就是对这两个向量对应位一一相乘之后求和的操作，内积的结果是一个标量。1.2 实例：a和b的内积公式为：1.3 作用：内积判断向量a和向量b之间的夹角和方向关系a·b>0 方向基本相同，夹角在0°到90°之间a·b=0 正交，相互垂直a·b<0 方向基本相反，夹角在9

ReflectionPad2d、InstanceNorm2d详解及实现nn.ReLU(inplace=True)中inplace的作用参数： inplace-选择是否进行覆盖运算hook函数：链接lr_scheduler和optimizer：链接transforms.Compose()类详解：串联多个transform操作链接...

文章目录准备工作编译ncnn.pt文件转.onnx文件onnx2ncnn(有坑)ncnnoptimize优化C++代码处理测试准备工作yolov5 v5.0：git clone https://github.com/ultralytics/yolov5.gitgit checkout v5.0ncnn源码git clone https://github.com/Tencent/ncnn.gitcd ncnngit submodule update --init安装依赖su

文章目录一、超参二、网格搜索 GridSearchCV三、随机搜索 RandomizedSearchCV四、自动超参搜索：遗传算法（GA）一、超参学习器模型中一般有两类参数，一类是可以从数据中学习估计得到，我们称为参数（Parameter）。还有一类参数时无法从数据中估计，只能靠人的经验进行设计指定，我们称为超参数（Hyper parameter）。超参数是在开始学习过程之前设置值的参数。相反，其他参数的值通过训练得出。参数空间的搜索一般由以下几个部分构成：一个estimator(回归器 or 分

在神经网络中，参数默认是进行随机初始化的。不同的初始化参数往往会导致不同的结果，当得到比较好的结果时我们通常希望这个结果是可以复现的，在pytorch中，通过设置随机数种子也可以达到这么目的。直接上code： import torch SEED = 0 torch.manual_seed(SEED) torch.cuda.manual_seed_all(SEED) torch.backends.cudnn.deterministic = True

PixelShuffler是一种端到端可学习的上采样模块，通过设置上采样比例，就可由低分辨率图像获取指定倍率的高分辨率图像。上采样可以理解为在同一个位置，原来只是以1:1的比例提取信息，而现在以1:4的比例提取信息，提取信息的频率更高了，所以能反映的细节也就更多。对于tensor来说，在同一个位置多提取信息，也就是通过卷积生成通道数更多的tensor。具体过程为（以一个（n,64,64,64）的特征图为例）通过卷积，得到通道数倍增的特征图（n,64,64,256）将特征图切割成若干份，对每一份（n,6

一、相关paperBatch Normalization，其论文：https://arxiv.org/pdf/1502.03167.pdfLayer Normalizaiton，其论文：https://arxiv.org/pdf/1607.06450v1.pdfInstance Normalization，其论文：https://arxiv.org/pdf/1607.08022.pdfGroup Normalization，其论文：https://arxiv.org/pdf/1803

1.CPU tensor转GPU tensor：cpu_imgs.cuda()2. GPU tensor 转CPU tensor：gpu_imgs.cpu()3. numpy转为CPU tensor：torch.from_numpy( imgs )4.CPU tensor转为numpy数据：cpu_imgs.numpy()5.GPU tensor转为numpy数据：gpu_imgs.cpu().numpy()

学习率是模型训练中最重要的超参之一，针对学习率的优化有很多种方法，而warmup是其中重要的一种。先提供github库链接：https://github.com/ildoonet/pytorch-gradual-warmup-lr什么是warmupwarmup是一种学习率优化方法（最早出现在ResNet论文中）。在模型训练之初选用较小的学习率，训练一段时间之后（如：10epoches或10000steps）使用预设的学习率进行训练；为什么使用warmup1、因为模型的weights是随机初始化的，

文章目录labelImg工具下载labelImg工具使用方法开始图像数据标注labelImg工具下载下载地址：链接：https://pan.baidu.com/s/138k49VHBLbzpjXFBKtMyYQ 提取码：mzxh下载的文件是编译好的，可执行的labelImg.exe文件。直接将文件放在windows环境下，双击可执行。labelImg工具使用方法1.双击labelImg执行文件图标，会出现操作界面：出现这样的窗口界面，说明labelImg已经正常开启，背景黑色的窗口是终端

导入数据增强包：from imgaug import augmenters as iaa #引入数据增强的包sometimes = lambda aug: iaa.Sometimes(0.5, aug) #建立lambda表达式，这里定义sometimes意味有时候做的操作，然而实际上在深度学习的模型训练中，数据增强不能喧宾夺主，如果对每一张图片都加入高斯模糊的话实际上是毁坏了原来数据的特征，因此，我们需要“有时候”做，给这个操作加一个概率。下面建立一个图像增强流程，有详细注释：seq = i

文章目录一、连接远程服务器二、配置远程服务器前提：需要有一个远程服务器，知道他的ip、port、user、password同时Pycharm需要是专业版，社区版没有此服务。另，专业版学生邮箱注册免费。一、连接远程服务器1、进入配置页面：Pycharm菜单栏，如下图所示，依次点击 Tools -> Deployment -> Configration…2、配置连接服务器：Connection下，协议最好选择SFTP，接下来填写服务器主机IP，用户名，密码。配置完成后点击Test S

1、L1Loss创建一个标准来测量标准中每个元素之间的平均绝对误差（MAE）输入：math：`x`和目标：mat​​h：`y`where :math:`N` is the batch size. If :attr:`reduction` is not ``'none'``(default ``'mean'``)import torch.nn as nnloss = nn.L...

机器学习中的所有算法都依赖于最小化(最大化可转化为最小化)某一个函数，我们称之为“目标函数”。最小化的这组函数被称为“损失函数”。损失函数是衡量预测模型预测期望结果表现的指标。寻找函数最小值的最常用方法是“梯度下降”。把损失函数想象成起伏的山脉，梯度下降就像从山顶滑下，目的是到达山脉的最低点。没有一个损失函数可以适用于所有类型的数据。损失函数的选择取决于许多因素，包括是否有离群点，机器学习算法...

目录： 信息量 熵 相对熵（KL散度） 交叉熵 JS散度 推土机理论 Wasserstein距离 WGAN中对JS散度，KL散度和推土机距离的描述 信息量：任何事件都会承载着一定的信息量，包括已经发生的事件和未发生的事件，只是它们承载的信息量会有所不同。如昨天下雨这个已知事件，因为已经发生，既定事实，那么它的信息量...

在单标签图像分类任务中，一般使用top1 accuracy 或者 top5 accuracy 衡量分类的准确性。而多标签图像分类任务的评价方法一般采用的是和信息检索中类似的方法——mAP(mean average precision)。以下是mAP的计算方法：在介绍mAP的计算方法之前，先介绍两个更基本的概念：precision and recall如上图1所示，圆圈内的样本为选出的模...