1、concatenate:通道合并,每个通道对应着对应的卷积
2、element-wise addition(计算量比1小)
将对应特征图相加,然后卷积。对应通道的特征图语义类似,对应的特征图共享一个卷积核。
对比:
add是描述图像的特征下的信息量增多了,但是描述图像的维度本身并没有增加,只是每一维下的信息量在增加,这显然是对最终的图像的分类是有益的。而concatenate是通道数的合并,也就是说描述图像本身的特征数(通道数)增加了,而每一特征下的信息是没有增加。
显然,concat计算量>add
另:在spindlenet中还有element-wise max和element-wise average方式
实验结果:max>avg>concate