模型训练时间的估算

最新推荐文章于 2025-06-02 18:55:21 发布

可西哥

最新推荐文章于 2025-06-02 18:55:21 发布

阅读量1.2w

点赞数 6

CC 4.0 BY-SA版权

分类专栏： Python BERT 文章标签：深度学习

本文链接：https://blog.youkuaiyun.com/xmxoxo/article/details/108234370

Python 同时被 2 个专栏收录

13 篇文章

订阅专栏

BERT

3 篇文章

订阅专栏

本文详细解析了如何根据已知参数估算BERT模型的训练时间，包括每秒处理的样本数、总样本数、批次大小及迭代次数，展示了两种计算总训练时间的方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

模型训练时间的估算

昨天群里一个朋友训练一个BERT句子对模型，使用的是CPU来进行训练，由于代码是BERT官方代码，并没有显示训练需要的总时间，所以训练的时候只能等待。他截图发了基本的信息，想知道训练完整个模型需要多久。

最开始跑BERT模型的时候，我也碰到这个问题，当时没有深入研究，
不过后来换成keras，bert4keras等框架，可以直接输出时间，比较直观，也就忽略了这个问题。这次回过头来重新理一理，也算温故知新。

话不多说，截图如下：
在这里插入图片描述

基础量

先整理一下截图中已知的量：

global_step/sec = 0.204125
表示每秒训练多少个batch批次；

examples/sec = 3.26599
表示每秒可以训练的样本数量；

Num examples = 40127
表示样本的总数量

Batch size = 16
表示一批次有多少个样本；

Num steps = 25079
表示总共有多少步（批次）

Epoch = 10
迭代次数，即所有样本训练的次数

迭代次数Epoch没有在截图里，但是可以这样推算：

Epoch = Num steps * Batch size / Num examples
      = 25079 * 16 / 40127
	  = 10 次

推理公式

以下是推理出来的其它公式：

Num steps = Num examples * Epoch / Batch size 
25079 = 40127 * 10 / 16

一个迭代训练用时 = Num examples / (examples/sec)
                 = 40127 / 3.26599 
				 = 12286秒
				 = 3小时 24分 46秒

训练总用时(秒) = Num examples * Epoch / (examples/sec) (秒)
               = 40127 * 10 / 3.26599
		       = 122863 秒
		       = 34小时 7分 43秒

或者:
训练总用时(秒) = Num steps  / (global_step/sec) (秒)
               = 25079 / 0.204125
			   = 122861 秒
		       = 34小时 7分 41秒

** 附带一个时间长度的转换方法，可用于把秒数变成时间长度 **：

'''
# 经过的秒数 转成 时间长度
测试样例：
>>> getSpanTimes(122891234,unit='')
'3Y 10M 22D 08:27:14;'
>>> getSpanTimes(122891234,unit='en')
'3 Years 10 Months 22 Days 08 Hour 27 Minute 14 Second'
>>> getSpanTimes(122891234,unit='zh')
'3年 10个月 22天 08小时 27分 14秒'
'''
def getSpanTimes (lngTimeSpan, unit=''):
    import time
    unit_sim = 'Y |M |D |:|:|;'
    unit_en = ' Years | Months | Days | Hour | Minute | Second'
    unit_zh = '年 |个月 |天 |小时 |分 |秒'
    if unit=='en':
        unit_list = unit_en.split('|')
    elif unit=='zh':
        unit_list = unit_zh.split('|')
    else:
        unit_list = unit_sim.split('|')
    t = time.gmtime(float(round(lngTimeSpan,3)))
    #print(t)
    total_time = ''
    total_time += ('%d%s'  % (t.tm_year-1970, unit_list[0])) if t.tm_year>1970 else '' 
    total_time += ('%d%s' % (t.tm_mon-1, unit_list[1])) if t.tm_mon>1 else '' 
    total_time += ('%d%s'   % (t.tm_mday-1, unit_list[2])) if t.tm_mday>1 else '' 
    tm = "%%H%s%%M%s%%S%s" % tuple(unit_list[3:])
    total_time += time.strftime(tm, t)
    return total_time