47、卷积神经网络与循环神经网络在计算机视觉和序列处理中的应用

卷积神经网络与循环神经网络在计算机视觉和序列处理中的应用

1. 卷积神经网络（CNN）相关问题与练习

1.1 CNN练习题目

以下是一系列关于CNN的练习问题：
1. 在图像分类任务中，CNN相较于全连接深度神经网络（DNN）有哪些优势？
2. 考虑一个由三个卷积层组成的CNN，每个卷积层的内核大小为3×3，步长为2，采用“same”填充。最底层输出100个特征图，中间层输出200个，顶层输出400个。输入图像为200×300像素的RGB图像。请问该CNN的总参数数量是多少？如果使用32位浮点数，对单个实例进行预测时，该网络至少需要多少RAM？在对包含50张图像的小批量进行训练时又需要多少RAM？
3. 如果在训练CNN时GPU内存不足，有哪五种方法可以尝试解决这个问题？
4. 为什么要添加最大池化层而不是具有相同步长的卷积层？
5. 什么时候需要添加局部响应归一化层？
6. 与LeNet - 5相比，AlexNet的主要创新点有哪些？GoogLeNet、ResNet、SENet和Xception的主要创新点又是什么？
7. 什么是全卷积网络？如何将全连接层转换为卷积层？
8. 语义分割的主要技术难点是什么？
9. 从头开始构建自己的CNN，并尝试在MNIST数据集上实现尽可能高的准确率。
10. 使用迁移学习进行大规模图像分类，步骤如下：
- a. 创建一个每个类别至少包含100张图像的训练集。例如，可以根据位置（海滩、山脉、城市等）对自己的图片进行分类，或者使用现有的数据集（如TensorFlow Datasets中的数据集）。
- b. 将其划分为训练集、验证集和测试集。