
pytorch
LCCFlccf
来了老弟
展开
-
pytorch训练时给隐层网络特征图添加随机噪声导致训练效率低的解决办法
问题描述:最近在训练说话人识别模型x-vector时,在网络结构中,将frame-level特征进行 statistics pooling前给TDNN输出的特征添加随机噪声以提高模型的性能,但踩了个坑导致训练效率非常低,用nvidia-smi命令查看GPU的效率,时而100%时而0%,这其中肯定有问题。通过排查发现不是数据加载的问题,而是模型定义的问题。下面详细分析。模型定义的代码如下:class xvecTDNN(nn.Module): def __init__(self, numSpks, p_原创 2020-05-09 00:06:46 · 4657 阅读 · 2 评论 -
pytorc使用多个GPU同时训练及常见问题解决办法
在pytorch上使用多个GPU(在同一台设备上,并非分布式)进行训练是件非常容易的事情,只要在源代码中添加(修改)两行代码即可。下面贴上官方教程给的示例代码。官方tutorial把模型放在GPU上:device = torch.device("cuda:0")model.to(device)将tensor复制到GPU上mytensor = my_tensor.to(device)...原创 2019-05-16 15:07:03 · 6482 阅读 · 0 评论