
创新点
创新点记录
北京纯牛奶
做个知识点记录的工具而已,其他绕道!
展开
-
densenet把全连接层变成卷积层代码
view(features.size(0), -1):将前面多维度的tensor展平成一维1. self.classifier = nn.Linear(num_features, num_classes)变成 self.classifier = nn.Conv2d(num_features, num_classes, kernel_size=1)out = F.avg_pool2d(out, kernel_size=7, stride=1).view(features.size(0),原创 2022-03-28 22:21:09 · 613 阅读 · 0 评论 -
PyTorch 普通卷积和空洞卷积
import numpy as npfrom torchvision.transforms import Compose, ToTensorfrom torch import nnimport torch.nn.init as initdef transform(): return Compose([ ToTensor(), # Normalize((12,12,12),std = (1,1,1)), ])arr = range(1,26)arr转载 2021-12-14 20:55:49 · 426 阅读 · 0 评论 -
Yolov4backbone、neck和Heads各个部分的组成对比及优化(创新点)
总而言之,普通的检测器由以下几个部分组成:输入:图像,斑块,图像金字塔 backbone: VGG16 [68],ResNet-50 [26],SpineNet [12],EfficientNet-B0 / B7 [75],CSPResNeXt50 [81],CSPDarknet53 [81] neck: 其他块:SPP [25],ASPP [5],RFB [47],SAM [85] 路径聚合块:FPN [44],PAN [49],NAS-FPN [17] ],Fully-co...原创 2020-08-16 14:52:22 · 1670 阅读 · 1 评论 -
backbone、head、neck优化记录
一、数据增强方式random eraseCutOutMixUpCutMix色彩、对比度增强旋转、裁剪解决数据不均衡:Focal losshard negative example miningOHEMS-OHEMGHM(较大关注easy和正常hard样本,较少关注outliners)PISA二、常用backboneVGGResNet(ResNet18,50,100)ResNeXtDenseNetSqueezeNetDarknet(Darknet19,53)Mob转载 2020-08-10 18:29:12 · 451 阅读 · 0 评论 -
添加与训练模型,以densenet121为例
添加预训练模型的方法,自己记录先把模型中的pretrained设置为True,如下以densenet为例,在if下面添加model_dict = model.state_dict()# 将pretrained_dict里不属于model_dict的键剔除掉pretrained_dict = {k: v for k, v in model_dict.items() if k in model_dict}# 更新现有的model_dictmodel_dict.update(..原创 2020-06-17 10:06:05 · 1523 阅读 · 0 评论 -
深度学习论文创新点
本文看了至少50篇论文,总结出了论文的创新点,都是深度学习方面的,分类,分割居多,检测少点,都在下面,按照我的创新点保证可以发出至少中文核心的文章,满足毕业要求。sci也有可能添加attention 机制添加inception添加新东西可以命名为:某某++目前主要有四种normalization,是不是自己也可以增加一种normalization可以在自己设计的网络模型上再添加迁移学习很多论文在经典的网络上修改网络卷积核的大小,然后添加跳跃连接之类的,作为创新点...原创 2020-05-18 16:27:16 · 10659 阅读 · 2 评论 -
resnet全连接层改成卷积层
想要尝试一下将resnet18最后一层的全连接层改成卷积层看会不会对网络效果和网络大小有什么影响1.首先先对train.py中的更改是:train.py代码可见:pytorch实现性别检测# model_conv.fc = nn.Linear(fc_features, 2)这是之前的写法model_conv.fc = nn.Conv2d(fc_features, 2, 1)print(m...转载 2020-04-30 15:27:10 · 1560 阅读 · 0 评论 -
pytorch中加入注意力机制(CBAM)以ResNet为例
源码位置:初识CV:ResNet_CBAM源码第一步:找到ResNet源代码在里面添加通道注意力机制和空间注意力机制所需库import torch.nn as nnimport mathtry: from torch.hub import load_state_dict_from_urlexcept ImportError: from torch.ut...转载 2020-04-22 21:51:04 · 26549 阅读 · 27 评论 -
ResNet进行改进微调(一)
引言本片博客是对ResNet 网络模型的微调,论文链接,讲解链接。原始的ResNet结构在细节之处还有微调优化的空间,在论文《Bag of Tricks for Image Classification with Convolutional Neural Networks》中,作者从高效训练、模型微调、训练技巧三个方面给出了一些实践技巧。本文只讲模型微调部分,感兴趣可以继续阅读论文或阅读讲解链接的...转载 2020-04-20 20:45:41 · 15169 阅读 · 3 评论 -
多尺度创新点总结
网络的图像输入,应该不拘泥于尺寸大小的才对,这是个朴素的想法。1)为对抗多尺度问题 卷积操作对输入尺寸是无必须要求的,任意尺寸均可。 但是,如果加上全连接层,该层必须要求是固定尺寸的输入,那么问题就来了。怎么才能解决这种类似的问题呢。1.1) 将全连接去掉 对最后的feature-map做global average pooling,直接加softmax。这篇文章里NIN,就是这么...转载 2020-04-02 15:59:57 · 381 阅读 · 0 评论