- 博客(1)
- 收藏
- 关注
RSS订阅原创 [Pytorch]关于采用DistributedDataParallel分布式训练时，在每个epoch的前后训练卡顿问题的解决办法
问题描述：如题目 分析：在使用DDP训练时，pytorch采用的_MultiProcessingDataLoaderIter作为Dataloader的迭代对象。在构造迭代器和关闭迭代器时，可能会因为num_workers参数设置的过大而导致每个epoch的在构造Dataloader的花销上比训练本身还大。 在Debug的时候，发现在每个epoch结束时，Dataloader会调用_MultiProcessingDataLoaderIter._shutdown_workers以关闭Dataloader，花销时
2022-05-09 19:09:23
1542
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人