深度学习中epoch、batch_size、steps的含义

原创已于 2022-12-06 16:28:28 修改 · 1.8k 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #batch #python

于 2022-12-06 16:25:11 首次发布

NLP 专栏收录该内容

4 篇文章

订阅专栏

本文通过一个具体的例子解释了epoch、batch_size和steps的概念及其相互关系。以1000张图片的数据集为例，每次训练使用10张图片作为一个batch，详细说明了一个epoch的完成、batch_size的设定以及steps的计算方式。

部署运行你感兴趣的模型镜像

举例：1000张图片，每次训练10张

epoch：这1000张图片全部训练完成一次即为一个epoch；
batch_size：每次训练10张图片，即 batch_size = 10；
steps：steps = 1000/10（整除则结果为steps，未能整除则结果 + 1为steps），表示更新多少次梯度。
注：这里每隔10张图片就更新一次梯度，也就是将一个batch中的图片一张张送入模型，累加loss求平均，之后进行反向传播（loss.backward()），同时进行参数更新（Iteration）。

您可能感兴趣的与本文相关的镜像