TensorFlow图变量tf.Variable的用法解析

最新推荐文章于 2021-01-28 15:14:02 发布
转载 最新推荐文章于 2021-01-28 15:14:02 发布 · 293 阅读 · 0
文章标签：

#TensorFlow #variable

LoveLkl
关注
彻底弄懂tf.Variable、tf.get_variable、tf.variable_scope以及tf.name_scope异同
qq_22522663的博客
12-06 8043
我之前有转载过一篇讲tf.variable_scope和tf.name_scope的文章，今天一看，觉得还是没介绍太清楚，没讲到点子上，毕竟英文什么的看起来还是挺麻烦的。故而，今天来细细梳理下tf.Variable、tf.get_variable、tf.variable_scope以及tf.name_scope四者之间的区别与联系。
tf.Variable()函数的使用
热门推荐
小天狼星的博客
05-17 3万+
tf.Variable(initializer,name),参数initializer是初始化参数，name是可自定义的变量名称，用法如下：import tensorflow as tf sess=tf.Session() v1=tf.Variable(tf.random_normal(shape=[4,3],mean=0,stddev=1),name='v1') v2=tf.Variable(t...
tf.Variable用法详解
lllxxq141592654的博客
03-12 7514
https://tensorflow.google.cn/api_docs/python/tf/Variable 通过创建Variable类的实例向graph中添加变量。 Variable()需要初始值，一旦初始值确定，那么该变量的类型和形状都确定了。 更改值通过assign方法。 想要改变形状，需要使用assign+validate_shape=False。 想要运行graph，必须先显式初始化...
tf.Variable
weixin_33883178的博客
05-29 149
import tensorflow as tftf.reset_default_graph()v1 = tf.Variable(tf.constant(1.0, shape=[1]), name="v1")v2 = tf.Variable(tf.constant(2.0), name="v2")v3 = tf.Variable(2.0, name="v3")result1 = v1 + v2res...
tf.Variable函数的用法
UESTC_C2_403的博客
05-16 3万+
tf.Variable（initializer， name）：initializer是初始化参数，可以有tf.random_normal，tf.constant，tf.constant等，name就是变量的名字，用法如下： import tensorflow as tf; import numpy as np; import matplotlib.pyplot as plt;
TensorFlow中tf.Variable的用法解析
ding_programmer的博客
07-11 1万+
Tensorflow 中 tf.Variable ，确实比较难理解，我也是弄了很久才弄懂的。 tf.Variable 的定义： tf.Variable.init(initial_value, trainable=True, collections=None, validate_shape=True, name=None) 那么，有的同学，就想问了 后面的name属性和前面的变量名有...
tf.Variable的用处以及其他tf中创建的命令
Kinono的小屋
02-11 1359
转载自简书 https://www.jianshu.com/p/2b9e475391ab 看了一圈网上的觉得这篇写的是最好的，很清楚，与各位分享 1、定义—简单一句话“参数” 我们使用变量Variables去更新参数。变量在内存中。 2、创建 例子： Create two variables. weights = tf.Variable(tf.random_normal([784, 200], s...
tf.Variable(变量)
bestrivern的博客
03-04 1714
一.变量声明 #Declare variables #create variable a with scalar value a = tf.Variable(2, name="scalar") #create variable b as a vector b = tf.Variable([2, 3], name="vector) #create variable c as a 2x2 ...
tf.Variable()
Minions的博客
03-07 1896
tf.Variable( initial_value=None, trainable=None, validate_shape=True, caching_device=None, name=None, variable_def=None, dtype=None, import_scope=None, constraint=None, synchronization...
tf.Variable()函数
Thomas会写字
01-28 7685
tf.Variable(initializer,name),参数initializer是初始化参数，name是可自定义的变量名称，用法如下： import tensorflow as tf v1=tf.Variable(tf.random_normal(shape=[4,3],mean=0,stddev=1),name='v1') v2=tf.Variable(tf.constant(2),name='v2') v3=tf.Variable(tf.ones([4,3]),name='v3') with
Tensorflow函数：tf.Variable()
abbott_zb的博客
10-10 1223
一. 函数的作用 该函数的主要功能是声明一个变量，用于生成一个初始值为initial-value的变量，必须指定初始化值！！ (与tf.get_variable()的区别详见其他博客) 二. 函数的参数说明 1. 函数的整体结构如下： tf.Variable(initial_value, trainable, collections, validate_shape, caching_de...
W = tf.Variable(tf.zeros([784, 10]), name="weights") b = tf.Variable(tf.zeros([10]), name="bias")中的784和10分别都表示什么
最新发布
03-28
<think>好的，用户现在问的是关于他们之前提供的代码中的两个数字784和10分别代表什么。看起来他们在学习TensorFlow，特别是关于保存和恢复模型的部分。之前的对话中，用户遇到了在保存模型时变量未定义的问题，现在他们在定义权重和偏置时，对于这些维度可能有疑问。 首先，我需要回顾一下之前的对话。用户之前在处理MNIST数据集的模型，可能是一个全连接神经网络。因为MNIST图像是28x28像素，所以展开后就是784个特征，也就是输入层有784个节点。输出层通常对应10个类别，因为MNIST有0到9的数字分类，所以输出层是10个节点。因此，W的形状[784,10]是输入层到输出层的权重矩阵，而b的形状[10]是输出层的偏置。 现在用户的问题直接指向这两个数字的含义，我需要明确解释每个数字对应的部分。可能需要从输入数据的结构开始解释，比如输入是展平的图像数据，每个样本有784个像素点，输出是10个类别的概率分布。此外，还要说明权重矩阵的作用是将输入层连接到输出层，每个输入节点与每个输出节点都有一个权重，所以维度是784x10。偏置则是每个输出节点有一个偏置项，所以是10维的向量。 用户可能刚接触神经网络，对张量的形状不太熟悉，所以需要详细说明每个维度的意义。同时，可能需要提醒他们，这些维度必须与数据预处理和模型结构匹配，否则会导致错误。例如，如果输入数据的特征不是784，或者分类的类别数不是10，那么这些维度就需要调整。 另外，用户之前的问题涉及保存模型时变量未定义，所以在解释维度之后，可能需要再次强调正确恢复变量名称和形状的重要性。如果他们在恢复模型时使用了错误的形状或名称，会导致加载失败，因此理解这些数字的含义对调试和正确构建模型很重要。 最后，要确保回答清晰、结构合理，分点解释784和10各自代表什么，并举例说明，比如MNIST数据的例子，帮助用户更好地理解。同时，检查是否有其他可能的疑问点，比如为什么权重矩阵的形状是[输入维度, 输出维度]，或者偏置为何是一维的，这些也需要在回答中简明扼要地解释。</think>### 分步解析：神经网络权重矩阵 `W` 和偏置 `b` 的维度含义 --- #### **核心结论** 在代码 `W = tf.Variable(tf.zeros([784, 10]), name="weights")` 和 `b = tf.Variable(tf.zeros([10]), name="bias")` 中： - **784** 对应输入数据的特征维度（例如 MNIST 图片展平后的像素总数）。 - **10** 对应输出层神经元数量（例如分类任务中的类别总数）。 --- ### 1. **输入特征维度 `784` 的由来** #### **典型场景：MNIST 手写数字分类** - **原始数据形状**：每张图片为 `28x28` 像素。 - **展平操作**：将二维图片转换为一维向量，总长度为 $28 \times 28 = 784$。 - **输入层设计**：输入层神经元数量必须与特征维度一致，因此 `x = tf.placeholder(tf.float32, [None, 784])` 中的 `784` 表示每个样本的特征数。 #### 数学表达 $$ \text{输入} \ x \in \mathbb{R}^{N \times 784}, \quad \text{权重矩阵} \ W \in \mathbb{R}^{784 \times 10} $$ 其中： - $N$：批次大小（Batch Size） - $784 \times 10$：权重矩阵的维度（输入特征数 → 输出神经元数） --- ### 2. **输出层维度 `10` 的含义** #### **分类任务设计** - **MNIST 任务**：识别手写数字 0~9，共 **10 个类别**。 - **输出层神经元数量**：每个神经元对应一个类别的概率，使用 `tf.nn.softmax` 转换为概率分布。 #### 数学表达 $$ \text{输出} \ y = \text{softmax}(xW + b) \in \mathbb{R}^{N \times 10} $$ - 每个样本的输出为 10 维向量，例如 $[0.1, 0.8, 0.0, ..., 0.0]$ 表示预测为数字 “1” 的概率最大。 --- ### 3. **维度匹配验证** #### 关键规则 - **矩阵乘法维度**：`x` 的形状为 $[N, 784]$，`W` 的形状为 $[784, 10]$，相乘后得到 $[N, 10]$。 - **偏置广播机制**：`b` 的形状为 $[10]$，会**自动广播**到每个样本的输出。 #### 示例计算 ```python x = tf.placeholder(tf.float32, [100, 784]) # 批次大小 N=100 W = tf.Variable(tf.zeros([784, 10])) b = tf.Variable(tf.zeros([10])) y = tf.matmul(x, W) + b # 结果形状为 [100, 10] ``` --- ### 4. **不同场景下的调整方法** | 任务类型 | 输入维度 `784` 的调整 | 输出维度 `10` 的调整 | |--------------------------|-------------------------------------|-------------------------------------| | **CIFAR-10 图像分类** | 输入展平为 $32 \times 32 \times 3 = 3072$ → `W.shape = [3072, 10]` | 保持 10（类别数相同） | | **二分类任务** | 保持输入维度不变（如 784） | 输出层设为 1 → `W.shape = [784, 1]` | | **多标签分类（20类）** | 保持输入维度不变 | 输出层设为 20 → `W.shape = [784, 20]` | --- ### 5. **常见错误与调试** #### 错误示例 1：维度不匹配 ```python # 错误：x 的维度为 784，但 W 的输入维度为 256！ W = tf.Variable(tf.zeros([256, 10])) # 应为 [784, 10] y = tf.matmul(x, W) + b # 触发 InvalidArgumentError ``` **解决方法**：确保 `W` 的第一个维度与输入特征数一致。 #### 错误示例 2：偏置维度错误 ```python # 错误：b 的维度为 20，与输出层 10 不匹配！ b = tf.Variable(tf.zeros([20])) # 应为 [10] y = tf.matmul(x, W) + b # 触发 BroadcastError ``` **解决方法**：偏置维度必须与输出层神经元数量相同。 --- ### 6. **扩展：卷积神经网络中的维度变化** 若使用卷积层（如 `tf.nn.conv2d`），输入和输出维度会动态变化，但全连接层的设计原则不变： ```python # 假设卷积层输出展平后为 1024 维 flatten = tf.reshape(conv_output, [-1, 1024]) # 输入维度变为 1024 # 全连接层权重矩阵 W_fc = tf.Variable(tf.zeros([1024, 10])) # 输入 1024 → 输出 10 b_fc = tf.Variable(tf.zeros([10])) y = tf.matmul(flatten, W_fc) + b_fc ``` --- ### 总结 - **`784`**：输入数据的特征维度（如展平后的图像像素总数）。 - **`10`**：输出层神经元数量（对应分类任务的类别数）。 - **核心规则**：权重矩阵的维度为 `[输入特征数, 输出神经元数]`，偏置的维度与输出神经元数一致。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值