- 博客(2)
- 收藏
- 关注
RSS订阅原创 DDP训练GAN中出现的inplace问题
摘要：训练GAN时出现"Inplace operation"错误，原因在于判别器两次前向传播共享参数导致梯度计算冲突。解决方案包括：1)避免in-place操作，如将x+=10改为x=x+10；2)修改激活函数in-place参数；3)最关键的是调整判别器训练流程，将真实样本和生成样本的前向传播和反向传播分开进行，即先计算并回传real_loss.backward()，再计算并回传fake_loss.backward()，避免计算图冲突。该方法成功解决了BatchNorm层引起的梯度版本
2025-06-19 16:46:58
443
原创 Matlab for循环 二维数组赋值时间过长问题
for i=1:250for j=1:250a(i,j)=i*j;endend这几行代码，跑起来需要将近30分钟开始时候速度很快，但随着数组a的长度增加，速度越来越慢有人说需要提前预置空间，如下a=zeros(250)for i=1:250for j=1:250a(i,j)=i*j;endend但速度并没有大大提高这时，我们可以采用一元数组求解，最后将所有解合起来,如下a=zeros(250)for i=1:250for j=1:2
2021-08-08 00:31:28
3741
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人