2、深度学习与 PyTorch 入门：从历史到应用

深度学习与 PyTorch 入门：从历史到应用

1. PyTorch 的历史

随着越来越多的人投身机器学习领域，不同的大学和组织开始构建自己的框架以支持日常研究，Torch 便是早期的框架之一。2002 年，Ronan Collobert、Koray Kavukcuoglu 和 Clement Farabet 发布了 Torch，随后它被 Facebook AI Research 以及多所大学和研究团体的众多人员采用。许多初创公司和研究人员接受了 Torch，一些公司还将其 Torch 模型产品化，为数百万用户提供服务，像 Twitter、Facebook、DeepMind 等都在其中。

Torch 的设计有三个关键特性：
- 便于数值算法的开发。
- 易于扩展。
- 运行速度快。

尽管 Torch 具有极高的灵活性，Lua + C 的组合也满足了上述所有要求，但社区面临的主要问题是新语言 Lua 的学习曲线。尽管 Lua 并不难掌握，且在高效产品开发领域已应用了一段时间，但它不如其他流行语言那样被广泛接受。

Python 在深度学习社区的广泛应用，促使一些研究人员和开发者重新思考核心开发者选择 Lua 而非 Python 的决策。此外，缺乏具有易于调试功能的命令式框架也引发了 PyTorch 的构想。

深度学习的前端开发者认为符号图的概念难以理解，而几乎所有深度学习框架都是基于此构建的。不过，有几个开发团队尝试用动态图改变这种方式。哈佛智能概率系统小组的 Autograd 是首个流行的动态图框架，随后 Twitter 上的 Torch 社区借鉴此想法实现了 torch - autograd。接着，卡内基梅隆大