混合精度训练
关注
分享
扫一扫
AI视觉爱好者
这个作者很懒，什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
[mmdetection 混合精度]用fastrcnn实测混合精度fp16效果2
用官方检测工具测试：平均时间：0.0947/0.1298=0.72958map比较：faster_rcnn_r50_fpn_1x_coco.pyfp16训练后map：结论：map下降不明显，但平均训练时间降低了27%，fp16还是很好的。（使用个人数据集，数据仅供参考）...原创 2021-01-27 10:13:58 · 1299 阅读 · 1 评论 -
[mmdetection 混合精度]用fastrcnn实测混合精度fp16效果
先上对比图：原本训练效果：经过fp16混合精度训练效果：结果：1.GPU Menmory 4201MB/5853MB=0.71775 GPU-Util 0.66/0.74=0.891892.训练总时间： 1day 15:34/2day 4:00=2374/3120=0.760893.time ...原创 2021-01-27 10:13:35 · 3458 阅读 · 4 评论 -
tensorflow 混合精度训练相关报错
如题先列环境：V100服务器 ubuntu16.04 tensorflow 1.14.0 cuda10.0 python3.6报错一：ValueError: "opt" must be an instance of a tf.train.Optimizer or a tf.keras.optimizers.Optimizer, but got: <keras.o...原创 2020-03-04 14:58:43 · 2671 阅读 · 2 评论