
Deep Learning
八块腹肌怎么练
本科:武汉大学
硕士:中山大学
展开
-
两个3x3卷积核替代一个5x5卷积核
AlexNet中为了增大感受野使用了11×1111\times1111×11、5×55\times55×5和3×33\times33×3三种卷积核。而VGG16说明了两个3×33\times33×3的卷积核和一个5×55\times55×5的卷积核感受野相同,从而可以使用两个3×33\times33×3的卷积核替代一个5×55\times55×5的卷积核。同理,可以使用三个3×33\times33...原创 2020-01-01 11:31:51 · 5931 阅读 · 0 评论 -
pytorch加载数据
pytorch用于加载数据集的模块主要是torch.utils.data(https://pytorch.org/docs/stable/data.html)。本文详细介绍了如何在自己的项目中(针对CV)使用torch.utils.data。1 综述1.1 pytorch常规训练过程我们一般使用一个for循环(或多层的)来训练神经网络,每一次迭代,加载一个batch的数据,神经网络前向反向传...原创 2019-11-21 11:16:58 · 1796 阅读 · 0 评论 -
pytorch保存和加载模型
本文描述pytorch保存和加载模型的两种方法。参考:https://pytorch.org/docs/stable/notes/serialization.html1 仅保存和加载模型参数只保存模型参数,所占空间较少,但是加载时必须先定义好网络模型,并且加载时的网络模型和保存时的必须一模一样。保存:torch.save(the_model.state_dict(), PATH)加载:...原创 2019-11-19 20:14:00 · 233 阅读 · 0 评论 -
torch.optim.lr_scheduler:调整学习率
本文是笔者在学习cycleGAN的代码时,发现其实现了根据需求选择不同调整学习率方法的策略,遂查资料了解pytorch各种调整学习率的方法。主要参考:https://pytorch.org/docs/stable/optim.html#how-to-adjust-learning-rate1 综述torch.optim.lr_scheduler模块提供了一些根据epoch训练次数来调整学习率(...原创 2019-11-13 10:46:53 · 118716 阅读 · 20 评论 -
常见Normalization汇总
本文内容原创 2019-11-12 15:14:36 · 963 阅读 · 0 评论 -
经典CNN和GAN论文代码总结(未完待续... ...)
经典CNN经典GANGANPaper: https://arxiv.org/abs/1906.01529Code: https://github.com/sheqi/GAN_ReviewCGANPaper: https://arxiv.org/abs/1411.1784Code: <>CycleGANPaper: https://arxiv.org/a...原创 2019-09-01 10:18:06 · 777 阅读 · 0 评论 -
李宏毅深度学习笔记:Batch Normalization
李宏毅深度学习笔记:Batch NormalizationBatch Normalization的paper:Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate ShiftFeature ScalingFeature Scaling指特征缩放,是将不同的feature缩放...原创 2019-10-09 17:53:11 · 1151 阅读 · 0 评论