2021-01-09

Residual Network问题

• Residual Network会至少跨越两个或两个以上的1神经网络吗？
• Residual Network跨越一个神经网络，把值传递给相邻的神经网络，如果这些神经网路是由卷积神经网路构成，除了要使跨越的那层卷积层保证输入前和输入后的张量维度一致，那值传送到相邻的卷积层时已经保持张量相等了，那么经过相邻卷积神经网络激活函数也就是卷积运算可以不需要使张量维度相等了吗？
  

可能对Residual Network理解有误，神经网络中卷积层与激活函数relu不是同一个概念。不能把卷积运算看做成为激活函数relu的性质。图上面的代码，卷积层进行卷积运算之后，才进行激活函数relu运算。residual Network就是在激活函数之间把前面的值添加进来。那么Residual Network该怎么理解？