Tensorflow 自定义loss的情况下初始化部分变量

最新推荐文章于 2025-06-17 09:32:53 发布

I_will_____

最新推荐文章于 2025-06-17 09:32:53 发布

阅读量2.4k

点赞数 1

CC 4.0 BY-SA版权

分类专栏： tensorflow 文章标签： tensorflow

本文链接：https://blog.youkuaiyun.com/chenxicx1992/article/details/56483180

tensorflow 专栏收录该内容

1 篇文章

订阅专栏

在TensorFlow中，通常使用`tf.initialize_all_variables()`初始化所有变量。但若已有变量a初始化，而想独立初始化b和c，可以使用特定方法。当自定义optimizer时，可能会遇到变量未初始化的问题。解决办法是先保存初始化变量，然后通过集合操作找出新增变量并进行初始化。参考Stack Overflow上的解决方案。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一般情况下，tensorflow里面变量初始化过程为：

    #variables ...........
    #..................... 
    init = tf.initialize_all_variables()
    sess.run(init)

这里 tf.initialize_all_variables() 会初始化所有的变量。

实际过程中，假设有a, b, c三个变量，其中a已经被初始化了，只想单独初始化b，c，那么：

    #variables ...
    ...
    init = tf.variables_initializer([b,c])
    sess.run(init)

此外，如果自行修改了optimizer，如下代码就会报错：

    #definition of variables a, b, c ...
    ....
    my_optimizer = tf.train.RMSProp(learning_rate = 0.1).minimize(my_cost)
    init = tf.variables_initializer([b,c])
    sess.run(init)

这是因为自己定义的optimizer会生成新的variables，但是在init里面并没有初始化，所以无法访问，会报错。解决方法如下：

    a = tf.Variables(...)            #line N
    temp = set(tf.all_variables()) 
    b = tf.Variables(...)
    c = tf.Variables(...)  
    #definition of my optimizer
    optimizer = tf.train.......
    init = tf.variables_initializer(set(tf.all_varialbles())-temp)  # line M
    sess.run(init)

首先，temp = set(tf.all_variables()) 将该行(line N)代码之前的所有变量保存在temp中，接下来定义变量b, c，以及自定义的optimizer，然后 set(tf.all_varialbles()存储了改行(line M)之前的所有变量（包括optimizer生成的变量以及temp中所含的变量），set(tf.all_varialbles())-temp相减得到line N~M这几行定义的变量。

参考：

【1】http://stackoverflow.com/questions/35164529/in-tensorflow-is-there-any-way-to-just-initialize-uninitialised-variables/35618160#35618160
【2】http://stackoverflow.com/questions/33788989/tensorflow-using-adam-optimizer