18、深入了解深度学习：从基础到高级应用

深入了解深度学习：从基础到高级应用

1. 深度学习的基础技术

1.1 卷积神经网络（CNN）

卷积神经网络（CNN）由法国科学家Yann LeCun在20世纪80年代发现。如今，这类网络凭借众多的神经层和大量的数据取得了惊人的成果。同样，让机器理解人类语言或进行语言翻译的技术，也是基于几十年前的技术，在新的深度学习范式下重新焕发生机。不过，这些数据处理需要大量的处理周期，所以提高处理速度至关重要。

1.2 利用强大的硬件

如今，大量数据的使用对算法性能产生了巨大影响。为了处理海量数据，科学家们更多地依赖GPU和计算机网络来快速获取答案。GPU与并行计算（多台计算机集群并行运行）相结合，能够创建更大的网络，并在更多数据上进行成功训练。实际上，GPU执行某些操作的速度比CPU快70倍，能将神经网络的训练时间从数周缩短至数天甚至数小时。

GPU是反向传播所需的强大矩阵和向量计算单元，这些技术使神经网络的训练时间更短，更多人能够参与其中。同时，研究也开启了新应用的大门，神经网络可以从大量数据中学习，利用大数据（如图像、文本、交易和社交媒体数据）创建性能不断提升的模型。

1.3 其他方面的投入

谷歌、Facebook、微软和IBM等大公司自2012年起就开始收购相关公司，并聘请深度学习领域的专家。例如Geoffrey Hinton，他因将反向传播算法应用于多层神经网络而闻名，现在就职于谷歌；Yann LeCun是卷积神经网络的创造者，目前领导着Facebook的AI研究。

如今，人人都能访问网络，也能获取创建深度学习网络的工具。这些工具不仅包括解释深度学习原理的公开科学论文，还涵