
深度学习
文章平均质量分 95
会意
这个作者很懒,什么都没留下…
展开
-
PyTorch 常用代码段整理合集
目录固定随机种子计算模型参数量提升Pytorch运行效率指定程序运行在特定GPU卡上保证模型的可重复性复制张量拼接张量矩阵乘法固定随机种子torch.manual_seed(0)torch.cuda.manual_seed_all(0)计算模型参数量param_count = sum(param.numel() for param in model.parameters())提升P...原创 2019-11-14 20:31:19 · 570 阅读 · 1 评论 -
深度学习图像预处理中为什么使用零均值化(zero-mean)
在深度学习中,一般我们会把喂给网络模型的训练图片进行预处理,使用最多的方法就是零均值化(zero-mean) / 中心化,即让所有训练图片中每个位置的像素均值为0,使得像素值范围变为[-128,127],以0为中心。举个例子,假设训练图片有5000张,图片大小为32*32,通道数为3,则用python表示如下:x_train = load_data(img_dir) # 读取图片数据 x...原创 2018-08-22 15:41:12 · 22769 阅读 · 15 评论 -
Group Normalization
Group Normalization前言What's wrong with BNHow GN workWhy GN work效果展示实验部分总结论文地址:https://arxiv.org/abs/1803.08494v3本文转自:http://www.dataguru.cn/article-13318-1.html参考:https://baijiahao.baidu.com/s?id=1...转载 2018-11-08 11:12:42 · 1424 阅读 · 0 评论 -
【转载】Rethinking ImageNet Pre-training 论文笔记
本文转自:https://blog.youkuaiyun.com/u014380165/article/details/84557356相关链接:知乎-如何评价何恺明等 arxiv 新作 Rethinking ImageNet Pre-training?论文:Rethinking ImageNet Pre-training论文链接:https://arxiv.org/abs/1811.08883Ka...转载 2018-11-28 11:37:41 · 557 阅读 · 0 评论 -
RePr Improved Training of Convolutional Filters阅读翻译
论文地址:https://arxiv.org/abs/1811.07275 CVPR2019的Oral Paper代码:作者目前没公布,Reddit上对于这篇论文的讨论很激烈┓( ´∀` )┏,对于代码复现很多人都有问题(比如:[复现1](https://github.com/siahuat0727/RePr)),加上作者目前还没开源代码。所以想看戏的可以去→_→原创 2019-05-21 17:40:05 · 4291 阅读 · 6 评论 -
【深度学习】为什么CNN中的卷积核大小都是奇数?
参考资料:知乎-为什么CNN中的卷积核一般都是奇数奇数,没有偶数偶数的?深度学习: 卷积核 为什么都是 奇数size【AI-1000问】为什么CNN中的卷积核半径都是奇数?主要有两点原因:1.便于进行padding。在卷积时,若要卷积前后的尺寸不变。需要对原图进行padding。假设图像的大小,也就是被卷积对象的大小为n∗nn*nn∗n,卷积核大小为k∗kk*kk∗k当paddin...原创 2019-07-17 17:14:57 · 4513 阅读 · 0 评论 -
【深度学习】网络训练时train/val loss出现周期性剧增原因
今天在训练自己定义的网络时,用Tensorboard观察Train/Val 的loss在训练时的变化,发现了下面loss会周期性剧增的情况:通过观察loss具体的数值变化,我发现每次loss剧增都发生在一个epoch的最后一轮。通过分析,我判断出这是由于我的图片数量不能被batch size整除导致的。我的train/val分别有2450,610张图片,batch size为32,这使得...原创 2019-07-28 16:25:07 · 8896 阅读 · 2 评论 -
NMS(非极大值抑制)与Soft NMS C++/Python 代码实现
目录NMSPythonC++Soft-NMSPythonC++NMS和Soft-NMS概念与定义见 参考链接:非极大值抑制(Non-Maximum Suppression,NMS)NMSPythonimport numpy as npdef iou(A, B): # 左上右下坐标(x1,y1,x2,y2) w = max(0, min(A[2], B[2]) - ma...原创 2019-09-04 14:12:49 · 3056 阅读 · 1 评论