基于PyTorch的深度学习1——概念与安装

以下内容来源于《Python深度学习：基于PyTorch》

Pytorch是一个建立在Torch库之上的Python包，提供一种类似Numpy的方法来表征张量（多维数组），可以利用GPU加速训练。

PyTorch采用了动态计算图(Dynamic Computational Graph)结构，且基于tape的Autograd系统的深度神经网络。

Torch是PyTorch中的一个重要包，它包括多维张量的数据结构以及基于其上的多种数学操作。

Pytorch包括4个主要的包：

torch：类似于Numpy的通用数组库，可将张量类型转换为torch.cuda.TensorFloat，并在GPU上进行计算。

 torch.autograd：用于构建计算图形并自动获取梯度的包。

 torch.nn：具有共享层和损失函数的神经网络库。•

torch.optim：具有通用优化算法（如SGD、Adam等）的优化包。

安装GPU版本的PyTorch，除了需要安装python，pytorch外，还需要安装GPU的驱动（比如英伟达的NVIDIA）、CUDA、cuDNN计算框架。主要步骤如下：

1）安装NVIDIA驱动。安装完成后，在命令行输入“nvidia-smi”​，用来显示GPU卡的基本信息。

2）安装CUDA。CUDA(Compute Unified Device Architecture)，是英伟达公司推出的一种基于新的并行编程模型和指令集架构的通用计算架构，它能利用英伟达GPU的并行计算引擎，比CPU更高效地解决许多复杂计算任务。安装CUDA Driver时，其版本需与NVIDIA GPU Driver的版本一致，这样CUDA才能找到显卡。

3）安装cuDNN。cuDNN是用于深度神经网络的GPU加速库。注册NVIDIA并下载cuDNN包，获取地址为https://developer.nvidia.com/rdp/cudnn-archive。

4）安装Python及PyTorch。选择CUDA时，不是None，而是对应CUDA的版本号。