混合精度计算
关注
分享
扫一扫
文章平均质量分 62
深度学习中的混合精度计算，pytorch apex混合精度库
ctrl A_ctrl C_ctrl V
中国科学技术大学硕士，互联网公司算法工程师。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
深度学习中的数据类型介绍：FP32, FP16, TF32, BF16, Int16, Int8 ...
深度学习中的数据类型介绍：FP32, FP16, TF32, BF16, Int16, Int8 ...原创 2023-11-06 11:01:57 · 32020 阅读 · 3 评论 -
pytorch 基于 apex.amp 的混合精度训练：原理介绍与实现
Apex是Nvidia开发的基于PyTorch的混合精度训练加速神器原创 2021-07-30 15:41:48 · 4269 阅读 · 1 评论 -
pytorch（Apex训练）保存模型报错：Can‘t pickle local object ‘_initialize.＜locals＞.patch_forward new_fwd’ 的解决方法
在使用 Apex 进行混合精度训练时，发现经过 Apex 的 model 无法通过torch.save() 保存，报错：AttributeError: Can’t pickle local object ‘_initialize..patch_forward..new_fwd’我发现 经过 Apex 的 model 不能保存模型，只能保存模型参数。因此不能用 torch.save(model, ‘model.pt’) 保存模型，只能用 torch.save(model.state_dict(), ‘mo原创 2021-07-27 19:40:55 · 2344 阅读 · 2 评论 -
PyTorch apex库安装（Linux系统）
PyTorch apex库安装（Linux系统）原创 2021-07-20 19:58:20 · 3104 阅读 · 0 评论