深度学习参数&&超参数以及batchsize、epoch、迭代

最新推荐文章于 2025-06-28 00:36:34 发布

原创最新推荐文章于 2025-06-28 00:36:34 发布 · 2.9k 阅读

10 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #机器学习 #人工智能

pytorch 专栏收录该内容

11 篇文章

订阅专栏

本文详细介绍了深度学习中的一些核心概念，包括参数、超参数、batchsize和epoch的定义及作用。参数是模型在训练过程中自动学习到的变量，如权重和偏差。超参数则是人为设定的，影响模型训练过程的设置，例如迭代次数、隐藏层结构等。batchsize指每次训练所用样本的数量，而epoch则表示使用整个训练集训练一次。理解这些概念对于优化模型性能至关重要。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

参数：模型根据数据可以自动学习出的变量。如权重，偏差等
超参数：根据经验进行设定，会影响到权重和偏置的大小，如迭代次数、隐藏层的层数、每层神经元的个数、学习速率等。
batchsize：批大小（批尺寸），在深度学习中，一般采用SGD训练，即每次训练在训练集中取batchsize个样本进行`训练。
iteration：(迭代)，1个iteration等于使用batchsize个样本训练一次；一个迭代 = 一个正向通过+一个反向通过。
epoch：迭代次数，1个epoch等于使用训练集中的全部样本训练一次；一个epoch = 所有训练样本的一个正向传递+一个反向传递。

训练集有2000个样本，batchsize=10，那么训练完整个样本集需要：200次iteration，1次epoch。