
深度学习
深度学习的学习笔记与总结
ys1305
这个作者很懒,什么都没留下…
展开
-
pytorch中优化器与学习率衰减方法总结
torch.optimtorch.optim是一个实现了各种优化算法的库。大部分常用的方法得到支持,并且接口具备足够的通用性,使得未来能够集成更加复杂的方法。如何使用optimizer为了使用torch.optim,你需要构建一个optimizer对象。这个对象能够保持当前参数状态并基于计算得到的梯度进行参数更新。构建为了构建一个Optimizer,你需要给它一个包含了需要优化的参数(必...原创 2019-06-30 16:25:53 · 29644 阅读 · 3 评论 -
pytorch中图片数据增强的方法
Compose组合transforms包含了一些常用的图像变换,这些变换能够用Compose串联组合起来torchvision.transforms.Compose(transforms)# 用于把一系列变换组合到一起。# 参数:transforms(list或Transform对象)- 一系列需要进行组合的变换。>>> transforms.Compose([&g...原创 2019-06-30 16:24:16 · 17453 阅读 · 6 评论 -
pytorch中的参数初始化方法总结
参数初始化(Weight Initialization)PyTorch 中参数的默认初始化在各个层的 reset_parameters() 方法中。例如:nn.Linear 和 nn.Conv2D,都是在 [-limit, limit] 之间的均匀分布(Uniform distribution),其中 limit 是 1. / sqrt(fan_in) ,fan_in 是指参数张量(tensor...原创 2019-06-30 16:20:33 · 69678 阅读 · 3 评论 -
numpy 与 tensor对比
类型(Types)NumpyPyTorchnp.ndarraytorch.Tensornp.float32torch.float32; torch.floatnp.float64torch.float64; torch.doublenp.float16torch.float16; torch.halfnp.int8torch.int8n...原创 2019-06-30 16:18:34 · 8352 阅读 · 0 评论 -
pytorch初步-一步步实现神经网络
大佬地址numpy实现import numpy as np# N is batch size; D_in is input dimension;# H is hidden dimension; D_out is output dimension.N, D_in, H, D_out = 64, 1000, 100, 10# Create random input and output...原创 2019-06-30 16:16:33 · 976 阅读 · 0 评论