tensorflow根据输入更改tensor shape

TF中动态shape实践
最新推荐文章于 2023-07-05 11:56:00 发布
最新推荐文章于 2023-07-05 11:56:00 发布
阅读量4.8k 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： Tensorflow Tensorflow使用技巧 文章标签： tensorflow 深度学习 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/silent56_th/article/details/79822755
本文介绍TensorFlow中如何使用tf.shape实现动态shape处理，适用于构建依赖于输入尺寸的随机数生成器或类RNN网络。文章通过具体实例展示如何根据输入的shape来决定随机数的shape。

涉及随机数以及类RNN的网络构建常常需要根据输入shape，决定中间变量的shape或步长。
tf.shape函数不同于tensor.shape.as_list()函数，后者返回的是常值list，而前者返回的是tensor。使用tf.shape函数可以使得中间变量的tensor形状随输入变化，不需要在构建Graph的时候指定。但对于tf.Variable，因为需要提前分配固定空间，其shape无法通过上诉方法设定。
实例代码如下：

a = tf.placeholder(tf.float32,[None,])
b = tf.random_normal(tf.concat([tf.shape(a),[2,]],axis=0))
【TensorFlow2.0】(2) 创建tensor的方法
博观而约取，厚积而薄发
11-23 4862
各位同学好，今天和大家分享一下TensorFlow2.0中的tensor变量的创建方法。内容有： (1) 通过numpy和list创建tensor；(2) 创建全部为某个值的tensor；(3) 随机化创建：正态分布、均匀分布；(4) 重新洗牌；(5) tf.constant() 那我们开始吧。 1. 通过numpy和list创建tensor 方法： tf.convert_to_tensor(value, dtype=None) np.ones([2,3]) 使用numpy创建2行3列全为1的
python打印tensor_在TensorFlow中怎么打印Tensor对象的值
weixin_39593593的博客
12-14 855
在TensorFlow中，如何打印Tensor对象的值?对于下面这个TensorFlow矩阵乘法的例子：matrix1 = tf.constant([[3., 3.]])matrix2 = tf.constant([[2.],[2.]])product = tf.matmul(matrix1, matrix2)当我打印product时，显示为一个TensorObject。怎么知道product的实...
【Tensorflow】Tensorflow中修改tensor的方法
xiaohe9275的博客
11-19 3407
Tensorflow中修改tensor的方法 在TensorFlow中tensor是不能直接修改数值的，如： import tensorflow as tf tensor_1 = tf.constant([x for x in range(1,10)]) # tensor_1 是一个数值为1到9的张量，...
tensorflow.reshap(tensor,shape,name)的使用说明
anhooo的博客
07-20 988
tensorflow.reshap(tensor,shape,name)的使用说明 tensorflow as tf tf.reshape(tensor, shape, name=None) reshape作用是将tensor变换为指定shape的形式。 其中shape为一个列表形式，特殊的一点是列表中可以存在-1。-1代表的含义是不用我们自己指定这一维的大小，函数会自动计...
Tensorflow 实现修改张量特定元素的值方法
09-20
今天小编就为大家分享一篇Tensorflow 实现修改张量特定元素的值方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
Tensorflow：tensor数据类型转换、计算和变换
皮皮blog
06-05 8791
示例 import tensorflow as tf x = tf.constant([[[1, 2, 3], [4, 5, 6]], [[7, 8, 9], [10, 11, 12]]]) y = tf.constant([[[11, 12, 13], ...
关于Tensorflow输入数据的shape
weixin_42670810的博客
07-01 2781
关于Tensorflow输入数据的shape确定 注意： 1.模型数据输入的shape与batch_size无关！ 2.只有"单个"样本的shape有关！ 3.且只与样本的"特征数据"的shape有关，与标签shape无关！ 因为从框架设计上来说，每个人训练的输入batch_size不一定一样，所以模型输入shape就肯定不能带上batch_size。 只当真正训练时，自动每批次求导即可。即，你每次输入1个样本，它就计算1个样本，求一次损失；如果你输入10个，那么它就 计算10个样本，求其均值损失。 ten
使用tensorflow根据输入更改tensor shape
09-16
这意味着`tf.shape`的输出能够根据输入Tensor的形状动态变化。例如，如果你有一个变量`a`，它的形状是不确定的（用`None`表示），你可以这样创建一个新的Tensor`b`，其形状基于`a`： ```python a = tf.placeholder...
5个简单步骤掌握TensorFlow中的Tensor
深度学习与计算机视觉
10-21 451
在这篇文章中，我们将深入研究Tensorflow Tensor的实现细节。我们将在以下五个简单步骤中介绍与Tensorflow的Tensor中相关的所有主题：第一步：张量的定义→什么是张...
Tensorflow中的reshape、set_shape的区别!!!
weixin_40395922的博客
08-15 4995
  讨论reshape与set_shape的区别之前,我们首先需要知道dynamic shape和static shape的区别: Tensorflow在构建图的时候，tensor的shape被称为static(inferred)；而在实际运行中，常常出现图中tensor的具体维数不确定而用placeholder代替的情况，因此static shape未必是已知的。tensor在训练过程中的实...
调整网络中参数的形状
qq358660877的博客
07-05 161
1.首先阅读数据预处理的代码，确定送入神经网络的输入x的张量形状。比如现在有个语音输入特征张量x形状为[16, 1, 256, 40]，【批量，通道数，像素宽度，特征维度】。 如果看不懂，可以先在网络的forward最开始进行print(x.shape)打印。 2.常见改变张量形状的方法： (1) #x形状为[16, 1, 256, 40] x = x.view(x.size(0), x.siz...
Tensorflow迁移学习加载预训练模型并修改变量shape和value的方法
lujian1989的专栏
02-16 3838
迁移学习在深度学习中是经常被使用的方法，指的是在一个任务中预训练的模型被用于另一个任务的模型训练，以加快模型训练，减少资源消耗。 然而网络搜索相关的话题，基本上只涉及加载预训练模型的特定变量值的方法，即不涉及预训练模型某个变量与当前任务网络对应变量shape改变的处理。 在具体的语音合成多说话人模型迁移学习得到单说话人模型的任务中，就涉及到了迁移变量改变shape的情况，将解决方法如下列出。 ...
pytorch之Tensor维度变化
m0_61899108的博客
07-08 1293
调整Tensor的shape（通过返回一个新的Tensor），在老版本中这个函数是，功能上都是一样的。 注意在view之后如果想恢复到原来的维数是要进行记录的，否则直接恢复是不行的。正的索引是在那个维度原本的位置前面插入这个新增加的维度，负的索引是在那个位置之后插入。 例子： unsqueeze的参数是index，而index的范围是 ⭐⭐例子二： ⭐实例：f表示4张14*14的拥有32个通道的图片，而b表示给图片的每个channel上的所有的像素添加一个偏置，我们的目标就是把b叠加在f
tensorflow中的shape问题
hellosc2的博客
01-25 3685
在TensorFlow系统中，张量的维数来被描述为阶.但是张量的阶和矩阵的阶并不是同一个概念.张量的阶（有时是关于如顺序或度数或者是n维） 是张量维数的一个数量描述。 比如，下面的张量（使用Python中list定义的）就是2阶. t = [[1, 2, 3], [4, 5, 6], [7, 8, 9]] 你可以认为一个二阶张量就是我们平常所说的矩阵，一阶张量可以认为是一个向量.对于一...
Python TensorFlow，张量的形状，静态形状与动态形状，set_shape()，reshape()
houyanhua1的专栏
03-03 2978
TensorFlow中，张量具有静态形状和动态形状静态形状：创建一个张量或者由操作推导出一个张量时,初始状态的形状 tf.Tensor.get_shape:获取静态形状 tf.Tensor.set_shape():更新Tensor对象的静态形状，通常用于在不能直接推断的情况下动态形状：一种描述原始张量在执行过程中的形状(动态变化) tf.reshape:创建一个具有不同动态...
Pytorch几种修改Tensor尺寸（shape）的方法
weixin_37823499的博客
07-12 1万+
Pytorch几种修改Tensor尺寸（shape）的方法
Pytorch Tensor维度变换
热门推荐
洪流之源
06-25 6万+
1. 改变shape torch.reshape()、torch.view()可以调整Tensor的shape，返回一个新shape的Tensor，torch.view()是老版本的实现，torch.reshape()是最新的实现，两者在功能上是一样的。 示例代码： import torch a = torch.rand(4, 1, 28, 28) print(a.shape) prin...
Pytorch之Tensor变换
weixin_42178606的博客
08-13 704
1、view用来改变shape。 调整Tensor的shape（通过返回一个新的Tensor），在老版本中这个函数是view()，功能上都是一样的。 a=torch.rand(4,1,28,28) print(a.shape)#torch.Size([4, 1, 28, 28]) #将后3维合并 print(a.view(4,2828))# print(a.view(4,2828).shape)#torch.Size([4, 784]) #将前3维合并 print(a.view(428,28).shape)
tensorflow 只修改input shape
最新发布
07-01
<think>我们正在处理一个TensorFlow模型，并希望修改其输入形状。根据引用[2]中的代码示例，我们看到在保存为pb文件之前，模型图是通过`tf.graph_util.convert_variables_to_constants`转换的。但是，修改输入形状通常需要在构建模型时指定，或者在加载模型后重建输入层。在TensorFlow中，修改已保存模型的输入形状有几种方法：1.在模型构建时指定：如果我们有模型的源代码，可以直接修改输入占位符的形状，然后重新保存模型。2.使用图重写：对于已经保存的模型（如pb文件），我们可以通过TensorFlow的图操作来修改输入形状。这通常涉及以下步骤：-加载模型图。-找到输入节点，并修改其形状。-由于形状变化可能影响后续节点的形状，因此需要传播形状信息（使用`tf.graph_util.import_graph_def`和`tf.compat.v1.graph_util.remove_training_nodes`等工具）。-保存修改后的图。然而，直接修改pb文件中的输入形状并不简单，因为后续节点的计算可能依赖于原来的形状。因此，我们需要确保整个图的形状重新推断（shapeinference）正确。下面是一个示例方法，使用TensorFlow的图操作来修改输入形状：步骤：a.加载pb文件中的模型图。b.创建一个新的输入节点，其名称与原输入节点相同，但形状不同。c.将图中所有对原输入节点的引用替换为新的输入节点。d.进行形状推断，确保后续节点的形状正确。e.保存修改后的图。但是，这个过程较为复杂，且容易出错。另一种更简单的方法是在加载模型时使用`tf.keras`（如果模型是Keras模型）或者使用`tf.saved_model` API，并指定新的输入形状。然而，根据引用[1]和[2]，我们使用的是GraphDef（pb文件），所以我们可以尝试以下方法：方法一：使用`tf.keras.models.load_model`（仅适用于Keras模型保存的格式，如SavedModel格式，不直接适用于pb文件）方法二：使用`tf.graph_util.import_graph_def`并配合自定义的输入映射。具体步骤（方法二）：1.读取pb文件，解析为GraphDef对象。2.创建一个新的TensorFlow图。3.使用`tf.import_graph_def`导入GraphDef，但通过`input_map`参数替换输入节点为一个新的占位符（具有新的形状）。4.然后保存修改后的图。示例代码：假设原输入节点名为"Placeholder:0"，新形状为[None,new_height, new_width,channels]（对于图像输入）。注意：这种方法要求我们知道输入节点的确切名称，并且新形状必须与模型后续层兼容（例如，卷积层的步长和核大小不能导致非法形状）。代码示例：```pythonimport tensorflow astffrom tensorflow.python.framework importtensor_util#加载现有的pb文件withtf.io.gfile.GFile('model.pb', 'rb')as f:graph_def= tf.compat.v1.GraphDef()graph_def.ParseFromString(f.read())#创建一个新的图withtf.Graph().as_default() asgraph:#定义新的输入占位符，具有新的形状#假设原输入节点名为'Placeholder:0'，新形状为[None,256,256,3]new_input =tf.compat.v1.placeholder(tf.float32,shape=[None,256,256,3], name='Placeholder')#导入图，并用新的输入替换原来的输入#注意：原输入节点在graph_def中，我们将其替换为new_inputtf.import_graph_def(graph_def,input_map={'Placeholder:0':new_input},#将原输入节点映射到新的输入name='')#获取输出节点（假设输出节点名为'output:0'）output =graph.get_tensor_by_name('output:0')#保存修改后的图with tf.io.gfile.GFile('modified_model.pb','wb') asf:f.write(graph.as_graph_def().SerializeToString()) ```但是，这种方法可能不会总是成功，因为形状改变可能导致后续节点形状不匹配。因此，我们需要确保模型结构允许新的输入形状（例如，全连接层要求固定维度，所以如果改变输入形状，全连接层的输入维度也必须相应改变）。如果模型中有全连接层，那么修改输入形状通常需要同时修改全连接层的权重（因为输入维度变了），这变得非常复杂。因此，修改输入形状通常只适用于卷积网络等对输入大小不敏感的网络（通过全局池化等避免全连接层）。另一种思路：在模型前添加一个预处理层（如resize层），这样我们保持原模型输入形状不变，但在输入数据之前先resize到原模型要求的形状。这种方法更安全，但会引入额外的计算。总结：-如果模型是卷积网络，没有全连接层（或者全连接层之前的特征提取部分可以适应不同大小，最后通过全局池化固定），那么可以直接修改输入形状。-否则，建议在模型外部进行resize，或者修改模型结构（如果有源代码）并重新训练。根据引用[2]中的代码，我们也可以考虑在保存为pb之前修改输入形状（如果有原始会话和图的访问权限）。因此，具体方法取决于模型的结构和我们的需求。注意：以上代码基于TensorFlow1.x，因为引用[2]中的代码是1.x的。在TensorFlow2.x中，我们可以使用tf.compat.v1来保持兼容性。如果用户使用的是TensorFlow2.x，并且模型是SavedModel格式，则可以使用以下方法：```pythonimporttensorflowas tf#加载SavedModelmodel= tf.saved_model.load('path_to_savedmodel') #如果模型有具体的签名，我们可以通过构建一个新的模型来改变输入形状#但SavedModel的输入形状是固定的，除非我们使用tf.keras模型并重新构建#对于Keras模型，我们可以在加载时通过自定义对象和配置来改变输入形状#但前提是模型是用Keras保存的model= tf.keras.models.load_model('keras_model.h5') #然后我们可以通过重新构建模型来改变输入形状#例如，使用函数式APIinput_tensor =tf.keras.layers.Input(shape=(256,256,3)) output_tensor= model(input_tensor)new_model= tf.keras.models.Model(input_tensor,output_tensor)new_model.save('new_keras_model.h5') ```但是，用户的问题是关于pb文件的，所以我们主要关注GraphDef的修改。因此，我们提供两种主要方法：1.通过图重写（使用input_map）修改输入节点（适用于无全连接层或全连接层不受影响的模型）。2.在模型外部添加resize操作（更通用，不修改模型内部）。方法二的示例（外部resize）：在输入数据之前，使用tf.image.resize将输入数据调整到模型要求的原始形状。这样，我们就不需要修改模型本身了。根据用户的具体需求，选择合适的方法。相关问题：1.修改TensorFlow模型输入形状后，为什么模型推理会出错？2.如何在不修改模型的情况下处理不同尺寸的输入？3.TensorFlow中如何查看模型的输入节点名称？4.修改模型输入形状后，如何验证模型是否正确？5.TensorFlow2.x中修改模型输入形状的方法与1.x有什么不同？</think>### 修改TensorFlow模型输入形状的方法 在TensorFlow中修改模型输入形状主要有以下三种方法，根据您的模型格式（pb文件或CheckPoint）选择合适方案： #### 方法1：直接修改GraphDef（适用于pb模型） ```python import tensorflow as tf from tensorflow.python.framework import tensor_util # 加载原始pb模型 with tf.io.gfile.GFile('model.pb', 'rb') as f: graph_def = tf.compat.v1.GraphDef() graph_def.ParseFromString(f.read()) # 查找并修改输入节点 for node in graph_def.node: if node.name == 'input_node_name': # 替换为实际输入节点名 # 创建新的TensorShapeProto new_shape = tf.TensorShape([None, 新高度, 新宽度, 通道数]).as_proto() # 清除旧shape属性 if 'shape' in node.attr: del node.attr['shape'] # 设置新shape node.attr['shape'].shape.CopyFrom(new_shape) # 保存修改后的模型 with tf.io.gfile.GFile('modified_model.pb', 'wb') as f: f.write(graph_def.SerializeToString()) ``` **注意**：需将`input_node_name`替换为实际输入节点名（可通过Netron查看），新形状需兼容后续层计算[^2]。 #### 方法2：通过输入映射重构图（推荐） ```python with tf.Graph().as_default() as graph: # 创建新输入张量 new_input = tf.compat.v1.placeholder( tf.float32, shape=[None, 新高度, 新宽度, 通道数], name='new_input' ) # 加载原图并映射输入 tf.graph_util.import_graph_def( graph_def, input_map={'original_input_name:0': new_input}, # 原输入节点名 name='' ) # 获取输出节点 output_tensor = graph.get_tensor_by_name('output_node_name:0') # 保存新模型 converted_graph_def = tf.graph_util.convert_variables_to_constants( tf.compat.v1.Session(), graph.as_graph_def(), [output_tensor.op.name] ) with tf.io.gfile.GFile('remapped_model.pb', 'wb') as f: f.write(converted_graph_def.SerializeToString()) ``` #### 方法3：从CheckPoint重建（适用于ckpt模型） ```python # 重建计算图时修改输入 input_ph = tf.compat.v1.placeholder( tf.float32, [None, 新高度, 新宽度, 通道数], name='new_input' ) # 构建模型网络（使用新输入） logits = your_model_architecture(input_ph) # 从ckpt加载权重 saver = tf.compat.v1.train.Saver() with tf.compat.v1.Session() as sess: saver.restore(sess, 'model.ckpt') # 转换并保存为pb output_graph_def = tf.graph_util.convert_variables_to_constants( sess, sess.graph.as_graph_def(), ['output_node_name'] ) with tf.io.gfile.GFile('new_model.pb', 'wb') as f: f.write(output_graph_def.SerializeToString()) ``` ### 关键注意事项 1. **形状兼容性**：新形状需满足： $$ \text{新宽度} \times \text{新高度} \times \text{通道数} = \text{原输入元素总数} $$ 否则全连接层会报错 2. **节点名确认**：使用Netron可视化pb文件获取准确输入/输出节点名 3. **动态维度**：`None`表示批处理维度可变，其他维度修改需谨慎 4. **后处理调整**：若涉及全连接层，需同步修改后续层权重矩阵维度： $$ W_{\text{new}} \in \mathbb{R}^{d_{\text{new}} \times d_{\text{out}}} $$ > **提示**：对于卷积网络，可通过全局平均池化替代全连接层避免形状约束[^1]。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值