NN模型设置--反卷积层的参数设置

最新推荐文章于 2022-11-17 18:42:57 发布

原创最新推荐文章于 2022-11-17 18:42:57 发布 · 1k 阅读

0 ·

CC 4.0 BY-SA版权

算法的实际使用专栏收录该内容

43 篇文章

订阅专栏

本文探讨了反卷积层的优化策略，包括学习率设置、upsample方式、stride选择及权重填充方法，旨在解决图像生成过程中的马赛克现象，提升网络效果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

将反卷积层的学习率设为0，upsample的方式就是默认的双线性插值，当然也可以设置学习率不为0，让反卷积层自己学习参数（听说：学习率不为0，能让网络的效果有略微提升）。
转置卷积层的stride最好别设置为和kernal相等，最好小一些，比如1/2；
如果遇到了上图的马赛克现象，就将反卷积层的weight_filler设为双线性插值；而不要设为高斯。例：

layer {
  name: ""deconv2_1""
  type: ""Deconvolution""
  bottom: ""conv2_d""
  top: ""deconv2_1""
  param {
    lr_mult: 0
  }
  convolution_param { 
    num_output: 32
    bias_term: false
    kernel_size: 4
    stride: 2
    weight_filler {      
    type: ""bilinear""
    }
#    weight_filler {      
#    type: ""gaussian""      
#    std: 0.01    
#    }
#    bias_filler { 
#    type: ""constant"" 
#    value: 0 
#    }
  }
}