再看SENet

最新推荐文章于 2024-04-12 03:19:48 发布

置顶 googler_offer

最新推荐文章于 2024-04-12 03:19:48 发布

阅读量781

点赞数

CC 4.0 BY-SA版权

分类专栏：深度学习=====keras搬砖系列

本文链接：https://blog.youkuaiyun.com/googler_offer/article/details/93079013

深度学习=====keras搬砖系列专栏收录该内容

55 篇文章

订阅专栏

博客介绍了SENet（Squeeze - and - Excitation Networks），先进行全局平均池化，输出经两级全连接限制在[0,1]范围后作为scale乘到通道上。第一个全连接压缩通道降计算量，第二个恢复通道。还提及SENet与ResNet和Inception结合，并给出了Keras代码。

SENet(Squeeze-and-Excitation Networks)

先做一个全局平均池化Global Average Pooling，输出的1x1xC的数据经过两级全连接限制到[0,1]范围内，再把这个值作为scale乘到U的C个通道上，作为下一级的输入数据。

第一个全连接把C个通道压缩成C/r个通道来降低计算量后面带Relu，第二个全连接再回复为C个通道后面跟了sigmoid，r是压缩比例。

SENet与ResNet和Inception结合

keras代码

squeeze = GlobalAveragePooling2D()(x)
        
excitation = Dense(units=out_dim // self.ratio)(squeeze)
excitation = self.activation(excitation)
excitation = Dense(units=out_dim)(excitation)
excitation = self.activation(excitation, 'sigmoid')
excitation = Reshape((1,1,out_dim))(excitation)
        
scale = multiply([x,excitation])