12、深度学习中的卷积神经网络与相关库介绍

深度学习中的卷积神经网络与相关库介绍

一、深度学习相关库

1.1 Sklearn - Theano 与特征提取

在深度学习中，有时需要端到端地训练卷积神经网络（CNN），但有时并不需要这样做。当不需要端到端训练时，可以将 CNN 视为特征提取器。这种方法在数据不足以从头开始训练 CNN 的情况下非常有用。具体操作是将输入图像通过一些流行的预训练架构，如 VGGNet、AlexNet 和 OverFeat，然后从所需的层（通常是全连接层）提取特征。

1.2 Nolearn 库

Nolearn 是一个不错的库，适合进行一些初始的 GPU 实验，特别是在 MacBook Pro 上。它也适用于在 Amazon EC2 GPU 实例上进行深度学习。与 Keras 将 TensorFlow 和 Theano 封装成更用户友好的 API 类似，Nolearn 借助 Lasagna 库实现了同样的功能。而且，Nolearn 的所有代码都与 Scikit - Learn 兼容，这对于许多项目来说是一个很大的优势。

1.3 Digits 库

Digits 虽然用 Python 编写，代表深度学习 GPU 训练系统，但它并不是一个真正意义上的深度学习库，而是一个网络应用程序，可用于训练借助 Caffe 创建的深度学习模型。尽管可以修改源代码以使用除 Caffe 之外的后端，但这会带来大量额外工作，且 Caffe 本身在深度学习任务中表现出色，因此这样做并不值得。

如果你曾经使用过 Caffe 库，就会知道定义 .prototxt 文件、生成图像数据集、运行网络以及在终端监控网络训练是多么繁琐。而 Digits