ExponentialMovingAverage

最新推荐文章于 2025-05-08 10:31:03 发布

匪盗84

最新推荐文章于 2025-05-08 10:31:03 发布

阅读量313

点赞数

博客展示了使用TensorFlow实现变量滑动平均的代码示例。定义了变量v1和step，使用指数滑动平均类tf.train.ExponentialMovingAverage，通过多次更新变量v1和step的值，计算并打印出变量v1及其滑动平均值，展示了滑动平均的计算过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import tensorflow as tf

v1 = tf.Variable(0, dtype=tf.float32)
step = tf.Variable(0, trainable=False)
ema = tf.train.ExponentialMovingAverage(0.99, step)
maintain_averages_op = ema.apply([v1])

with tf.Session() as sess:
    # 初始化
    init_op = tf.global_variables_initializer()
    sess.run(init_op)
    print(sess.run([v1, ema.average(v1)]))

    # 更新变量v1的取值 decay = min{0.99, (1+step)/(10+step) = 0.1} = 0.1
    #shadow_variable = 0.1*0 + 0.9*5 = 4.5
    sess.run(tf.assign(v1, 5))
    sess.run(maintain_averages_op)
    print(sess.run([v1, ema.average(v1)]))

    # 更新step和v1的取值 decay = min{0.99, (1+step)/(10+step) = 0.999} = 0.99
    # shadow_variable = 0.99*4.5 + 0.01*10 = 4.555
    sess.run(tf.assign(step, 10000))
    sess.run(tf.assign(v1, 10))
    sess.run(maintain_averages_op)
    print(sess.run([v1, ema.average(v1)]))

    # 更新一次v1的滑动平均值
    # shadow_variable = 0.99*4.555 + 0.01*10 = 4.60945
    sess.run(maintain_averages_op)
    print(sess.run([v1, ema.average(v1)]))