使用GPU进行机器学习训练时，如果GPU-Util计算核心满载工作但是显存占用较少，应该如何优化？

是否需要优化？

1. 如果任务运行正常：无需干预（GPU 设计本就是优先榨干计算性能）。
2. 如果出现卡顿或效率低下：
   • 增大 batch_size：提升显存占用，减少数据搬运次数（但需避免 OOM）。
   • 启用混合精度：torch.cuda.amp 可减少显存占用并加速计算。
   • 检查 CPU 到 GPU 的数据流：避免频繁的小数据拷贝（如 DataLoader 的 num_workers 设置）。