tensorflow之variable

本文探讨了TensorFlow中的variable与Python变量的关系。TensorFlow的variable在graph交叉调用run时维持状态,可保存模型参数;Python变量是程序运行临时值,有作用域。还介绍了TensorFlow的变量共享,它可在同一图中实现变量共享。
部署运行你感兴趣的模型镜像

tensorflow中的variable令人迷糊。它与python的变量是何关系?请看文档的定义。

A variable maintains state in the graph across calls to run(). You add a variable to the graph by constructing an instance of the class Variable.

在graph中交叉调用run时,variable用来维持其状态。通俗地说,通过variable,可以在多次运行时,保存graph的状态。比如,训练模型时,每一个模型的参数需要在训练更新后保存下来,供下一次使用,模型参数有可以利用 variable来定义。

python的变量和其他语言类似,指程序段运行时的临时值,它有作用域,一般有局部作用域、全局作用域等。variable有点类似全局作用域的变量。函数内部定义的python变量属于局部作用域变量,当函数执行完毕,该变量不复存在,下次调用该函数时,无法取得变量上次的值。(c++的静态变量可以保存变量的上次调用值)

tensorflow的变量共享又是什么梗?

在一个函数内定义的variable,如果另一个函数想访问,那就需要变量共享的支持了。那变量共享是如何做到的呢,可以想象成variable是定义在graph范围的变量,在同一个图中实现共享。

 

您可能感兴趣的与本文相关的镜像

TensorFlow-v2.15

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。 它提供了一个灵活的平台,用于构建和训练各种机器学习模型

### TensorFlowVariable的用法 在TensorFlow中,`tf.Variable`类用于表示可训练参数。创建一个变量非常简单,只需要指定其初始值即可[^1]。 对于TensorFlow 2.x版本而言,由于默认启用了即时执行(Eager Execution),因此可以像处理常规Python对象一样轻松地创建和操作这些变量;而在TensorFlow 1.x版本里,则需通过显式的会话(session)机制来进行初始化与更新。 #### 创建并初始化变量 下面展示了一个简单的例子,说明如何定义和初始化一个张量: ```python import tensorflow as tf # 定义一个常数作为初始值 initial_value = [[1., 2.], [3., 4.]] v = tf.Variable(initial_value, name="var", trainable=True) print(v.numpy()) ``` 这段代码展示了如何利用NumPy数组或其他类型的张量来设置变量的初值,并指定了该变量是否参与模型训练过程(`trainable`)属性。 #### 赋予新值给已存在的变量 除了初始化之外,还可以随时改变现有变量的内容: ```python new_value = [[5., 6.], [7., 8.]] assign_op = v.assign(new_value) print(assign_op.numpy()) ``` 这里使用了`.assign()`方法直接修改了之前创建好的变量`v`所持有的数值。 #### 使用优化器自动调整权重 当构建神经网络时,通常不需要手动更改每个参数——而是依赖于内置或自定义的优化算法完成这一工作。例如,在最小化损失函数的过程中,可以通过调用`minimize()`函数让梯度下降等策略自动调节各个层内的权值矩阵和其他相关参数[^3]。 #### 存储和恢复变量状态 为了能够在不同时间点之间保持学习成果不变,或者共享预训练过的模型结构及其对应的内部参数配置,TensorFlow提供了便捷的方式实现持久化的功能。这主要涉及到两个方面的工作:一是导出当前所有的全局变量到文件系统当中去;二是读取先前已经保存下来的数据集以便后续继续训练或是做预测分析用途。 - **保存**:借助`saver.save(sess, save_path)`命令可以把整个计算图连同其中所有节点的状态一并记录起来; - **加载**:相反地,如果想要重新载入某个特定时刻下的快照,则只需执行`saver.restore(sess, save_path)`就可以了[^5]。 注意上述提到的操作均适用于较早版本(即TF1.x系列),而对于新版环境(TF2.x及以上),官方推荐采用更现代化的方法论如Checkpoint API 或 SavedModel 格式替代旧有的Saver接口。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值