深度学习PyTorch，TensorFlow中GPU利用率较低,使用率周期性变化的问题

在用tensorflow训练神经网络时,发现训练迭代的速度时而快时而慢,监督的GPU使用率也是周期性变化,通过了解,发现原因是:

GPU在等待CPU读取,预处理,并传输数据过来,因此要提高GPU的使用率,降低GPU的等待时间,需要加快CPU的处理速度.

在PYTORCH中的解决方案是用torch.utils.data.DataLoader,用num_workers设置线程数:

           torch.utils.data.DataLoader(image_datasets[x],
                                   batch_size=batch_size,
                                    shuffle=True,
                                    num_workers=8,
                                    pin_memory=True)
 

在tensorflow中的解决方案是用tf.data.Dataset.map(num_parallel_calls=8)中的num_parallel_calls设置读取数据的线程数:

             用 tf.data读取数据,  tf.data.Dataset中有一个map函数,它有个num_parallel_calls参数,可以控制CPU的线程,加快数据的读取速度,一般将线程设置为8效果最好.

 

本文主要参考以下两篇文章,建议大家去看更多细节:

             https://blog.youkuaiyun.com/qq_32998593/article/details/92849585

              https://zhuanlan.zhihu.com/p/53345706