2、深度学习与 PyTorch 入门指南

深度学习与 PyTorch 入门指南

1. PyTorch 的历史

随着越来越多的人投身机器学习领域，不同的大学和组织开始构建自己的框架以支持日常研究，Torch 便是早期的框架之一。2002 年，Ronan Collobert、Koray Kavukcuoglu 和 Clement Farabet 发布了 Torch，随后它被 Facebook AI Research 以及多所大学和研究团体的众多人员采用。许多初创公司和研究人员接受了 Torch，一些公司还将 Torch 模型产品化以服务数百万用户，如 Twitter、Facebook、DeepMind 等。

Torch 的设计具备三个关键特性：
1. 便于数值算法的开发。
2. 易于扩展。
3. 运行速度快。

尽管 Torch 具有高度的灵活性，Lua + C 的组合也满足了上述所有要求，但社区面临的主要问题是学习新语言 Lua 的难度。尽管 Lua 并不难掌握，且在高效产品开发领域已应用了一段时间，但它不如其他流行语言那样被广泛接受。

Python 在深度学习社区的广泛应用，促使一些研究人员和开发者重新思考核心开发者选择 Lua 而非 Python 的决策。此外，缺乏具有易于调试功能的命令式框架也催生了 PyTorch 的诞生。

深度学习的前端开发者认为符号图的概念难以理解，而几乎所有深度学习框架都是基于此构建的。不过，一些开发团队尝试使用动态图来改变这种方式。哈佛智能概率系统小组的 Autograd 是首个流行的动态图框架，随后 Torch 社区在 Twitter 上采用这一理念并实现了 torch-autograd。接着，卡内基梅隆大学（CMU）的研