FCN:全连接卷积网络
平化层nn.Flattern或者全局池化层会损害空间信息
假设
f
f
f是一个卷积层,而且
y
=
f
(
x
)
y=f(x)
y=f(x)
在反向求导时,
∂
f
(
y
)
\partial f(y)
∂f(y)会返回一个跟
x
x
x一样形状的输出
卷积是对偶函数,
∂
2
f
=
f
\partial^{2}f=f
∂2f=f
如果我们想得到跟输入一样的输入,定义
g
=
∂
f
g=\partial f
g=∂f,
g
(
f
(
x
)
)
g(f(x))
g(f(x))就是我们想要的。
【转置卷积层】(transposed convolutional,!也经常被错误地叫作deconvolutions)
把卷积层的forward和backward函数兑换
循环神经网络
待更