枉费红笺的博客

神经网络的参数量（Params）和计算量（FLOPs）

原文链接: https://zhuanlan.zhihu.com/p/4179976621 引言各位朋友大家好，欢迎来到月来客栈。今天要和大家介绍的内容是如何在Pytorch框架中对模型进行保存和载入、以及模型的迁移和再训练。一般来说，最常见的场景就是模型完成训练后的推断过程。一个网络模型在完成训练后通常都需要对新样本进行预测，此时就只需要构建模型的前向传播过程，然后载入已训练好的参数初始化网络即可。第2个场景就是模型的再训练过程。一个模型在一批数据上训练完成之后需要将其保存到本地，并且可能过了一段时间后

1 背景 去年我理解了torch.gather()用法，今年看到又给忘了，索性把自己的理解梳理出来，方便今后遗忘后快速上手。官方文档：TORCH.GATHER​pytorch.org/docs/stable/generated/torch.gather.html?highlight=gather#torch.gather官方文档对torch.gather()的定义非常简洁 定义：从原tensor中获取指定dim和指定index的数据看到这个核心定义，我们很容易想到gather()的基本想法其实就类似从完整数