24、深度学习中的神经网络算法与应用

深度学习中的神经网络算法与应用

1. 张量操作与后端引擎

在深度学习里，张量级别的操作涉及对多维数据数组（即张量）进行计算和转换，张量是神经网络主要使用的数据结构。这种底层的深度学习库被称为后端引擎，Keras 可能使用的后端引擎包括：
- TensorFlow（ www.tensorflow.org ）：这是同类中最流行的框架，由谷歌开源。
- Theano：由蒙特利尔大学的 MILA 实验室开发。
- Microsoft Cognitive Toolkit (CNTK)（ https://learn.microsoft.com/en-us/cognitive - toolkit/ ）：由微软开发。

这种模块化深度学习技术栈的优势在于，无需重写任何代码就能更改 Keras 的后端。例如，若发现 TensorFlow 更适合某个特定任务，可直接将后端改为 TensorFlow。

2. 深度学习栈的底层

前面提到的三个后端引擎都能利用栈的底层在 CPU 和 GPU 上运行。对于 CPU，会使用名为 Eigen 的张量操作底层库；对于 GPU，TensorFlow 会使用 NVIDIA 的 CUDA 深度神经网络（cuDNN）库。

在机器学习中，GPU 常被优先选用，原因在于：虽然 CPU 用途广泛且功能强大，但 GPU 专门设计用于同