寰宇的博客

LSTM作为RNN的一种，在计算其参数的时候可能会有一些错误的理解。如果对于参数计算过程不理解，那么对网络可能也并不是很理解。如图 上图是一个简单RNN的示意图，为了方便理解，都会画成下面的形式这样就会造成一些误解，将RNN理解为t个不同的模块，并且错误的认为每个模块有不同的参数。其实这里的RNN就只有一个模块。其余的是时间线上的展开。LSTM也类似上图也是时间线...

当输入的feature map的尺寸是1×1时，两者从数学原理上来看，没有区别。假设输入为c×1×1，输出为n×1×1，那么全连接可以认为是一个c维的向量和n×c大小的矩阵相乘。卷积层可以理解为n个c×1×1的卷积核，分别与输入做内积，跟计算矩阵向量乘没有区别。当输入为c×w×h时，卷积层和全连接层的输出尺寸就不一样了，1×1的卷积输出为n×w×h，全连接的输出是n×1×1。此时，全连接可以等...