【笔记】CNN RNN要点

1、正确的分类，两个条件至少要满足一个：足够的特征；增加神经网络的隐藏层数和神经元个数。但是也要避免过拟合。

2、神经网络分为输入层、隐藏层、输出层。卷积神经网络的特点在于隐藏层分为卷积层和池化层（又称下采样层）。

3、卷积核在提取特征映射的动作称作padding。移动步长称作stride，不越过边缘取样称为valid padding，越过边缘取样称为same padding。

4、CNN有输入层、卷积层、下采样层（池化）、全连接层、输出层。

5、卷积神经网络的低隐层是由卷积层和最大池采样层交替组成，高层是全连接层对应传统多层感知器的隐含层和逻辑回归分类器。第一个全连接层的输入是由卷积层和子采样层进行特征提取得到的特征图像。最后一层输出层是一个分类器，可以采用逻辑回归，Softmax回归甚至是支持向量机对输入图像进行分类。

5、RNN重点在于隐藏层增加了上下文单元。