Tensorflow： .Pb模型合并（子图合并成大图）

最新推荐文章于 2025-07-03 20:15:31 发布
原创 最新推荐文章于 2025-07-03 20:15:31 发布 · 2.7k 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文详细介绍如何将多个独立的机器学习模型，如检测模型和分类模型，通过子图合并的方法融合成一个大型模型，并生成新的.pb文件，以实现模型间的串联或并行工作，提高实际应用的效率。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

有时我们训练了多个模型，想合并使用它们：如检测模型和分类模型，pose模型和分类模型等，实际应用时模型之前存在着先后的串联关系或者并行关系等。

解决方法：

  • 需要建立多个图，然后每个图导入一个模型，再针对每个图创建一个会话
  • 用简单的串联合并关系创建新图
  • 子图合并为大图（跟上面一种方法类似，但子图间没有任何关联，减少了模型之间的束缚，但也可以让它们存在关系）

这里主要介绍最后一种方法：

with tf.Graph().as_default() as g_combined:
	with tf.Session(graph=g_combined) as sess:
		graph_def_detect = load_def(detect_pb_path)
		graph_def_seg= load_def(seg_pb_path)
		input_image = tf.placeholder(dtype=tf.uint8,shape=[1,None,None,3], name="image")#定义新的网络输入
		input_image1 = tf.placeholder(dtype=tf.float32,shape=[1,None,None,3], name="image1")
		#将原始网络的输入映射到input_image(节点为：新的输入节点“image”)
		detection = tf.import_graph_def(graph_def_detect, input_map={'image_tensor:0': input_image},return_elements=['detection_boxes:0', 'detection_scores:0','detection_classes:0','num_detections:0' ])
                #新的输出节点为“detect”
		tf.identity(detection, 'detect')
		# second graph load
		seg_predict = tf.import_graph_def(graph_def_seg, input_map={"create_inputs/batch:0": input_image1}, return_elements=["conv6/out_1:0"])
		tf.identity(seg_predict, "seg_predict")

		# freeze combined graph
		g_combined_def = graph_util.convert_variables_to_constants(sess, sess.graph_def, ["seg_predict","detect"])
                #合成大图，生成新的pb
		tf.train.write_graph(g_combined_def, out_pb_path, 'merge_model.pb', as_text=False)

 最后调用新生成的.pb 即可。

 

AI人工智能领域TensorFlow的模型部署指南
AI 原生应用开发的博客
07-04 1181
在人工智能领域，构建高性能模型只是成功的一半，将这些模型有效部署到生产环境并解决实际问题才是最终目标。本指南将带领您探索TensorFlow生态系统中模型部署的完整流程，从模型优化、格式转换到在各种环境（云服务器、移动设备、嵌入式系统、网页浏览器）中的部署实践。无论您是AI研究人员、软件工程师还是产品经理，本文都将提供实用的策略、代码示例和最佳实践，帮助您克服部署挑战，实现AI模型的商业价值转化。想象一下，您和团队花费数月时间研发了一个高精度的图像识别模型，在测试集上达到了98%的准确率。
TensorFlow-合并与分割
weixin_43075863的博客
07-01 208
1、合并 需指定要合并的轴，其它轴纬度值需要相同 tf.concat a=tf.ones([4,35,8]) b=tf.ones([1,35,8]) c = tf.concat([a,b],axis=0) print(c.shape) 2、拼接 按轴拼接，创建一个新的 a=tf.ones([4,35,8]) b=tf.ones([4,35,8]) c=tf.stack([a,b],axis=-1) c=tf.stack([a,b], axis=1) print(c.shape) 3、分离 按轴平分 a=
Tensorflow 合并多个pb模型并共用一个输入的方法
qq_26535271的博客
10-14 902
存在两个pb模型的输入相同，现想把两个pb模型合并成一个模型并共用一个输入节点，借鉴合并多个tensorflow模型的办法 代码如下： import tensorflow as tf from tensorflow.python.framework.graph_util import convert_variables_to_constants IMAGE_SIZE = 48 #假设模型输入是48x48 origin_model = "1.pb" #第一个模型 new_model = "2.pb
TensorFlow引入了动态图机制Eager Execution
weixin_33884611的博客
11-01 968
PyTorch 的动态图一直是 TensorFlow 用户求之不得的功能，谷歌也一直试图在 TensorFlow 中实现类似的功能。最近，Google Brain 团队发布了 Eager Execution，一个由运行定义的新接口，让 TensorFlow 开发变得简单许多。在工具推出后，谷歌开发人员 Yaroslav Bulatov 对它的性能与 PyTorch 做了横向对比。今天，我们为 Te...
图融合之加载子图：Tensorflow.contrib.slim与tf.train.Saver之坑
weixin_30721899的博客
11-06 273
import tensorflow as tf import tensorflow.contrib.slim as slim import rawpy import numpy as np import tensorflow as tf import struct import glob import os from PIL import Image import t...
matplotlib动态显示子图和tensorflow的demo
weixin_43292547的博客
05-18 161
如果不加mpl.use(‘TkAgg’)，pycharm不能动态显示子图(指add_subplot返回的axes)，在命令行运行可显示。加上后pycharm也可以。 import tensorflow.compat.v1 as tf import tensorflow as tf2 tf.disable_v2_behavior() import numpy as np import matplotlib.pyplot as plt import matplotlib as mpl mpl.use('TkAg
将tensorflow训练的模型转为onnx模型，需要怎么转换，每一个过程需要的文件和方式是什么。我转换.pb文件总是包含训练节点怎么办
06-27
步骤1：确保我们有一个冻结的推理图（不含训练节点）-如果用户使用的是TensorFlow1.x，可以使用`freeze_graph`工具将检查点文件（checkpoint）和模型结构文件（.pb）合并成一个冻结的.pb文件。-如果用户使用的是...
Tensorflow 模型优化
q199502092010的博客
06-19 1804
最近一段时间找实习的经历真的是艰难困苦，大家对机电这个专业本身的认知度就不高。确实机电从名字上看是机械和电子，好像是偏硬件更多点，但实际上这个专业的核心应该是感知和控制，像自动化一样，怎样更好的结合软硬件是我们学习的内容。 像我们实验室现在偏向感知更多点，就是使用机器视觉去感知环境，进行图像处理，让控制器做出判断。但是计算机学院有了专门的模式识别，做这个更厉害一些。我们也只能更加努力的去学习弥补差...
如何调用tensorflow训练完的模型# 导入必要的库 import os # 用于文件和目录操作 import ast # 用于解析字符串形式的Python数据结构 import numpy as np # 用于数值计算 import tensorflow as tf # 深度学习框架 import matplotlib # 用于数据可视化 # 强制设置后端为'Agg'（非交互式，适合服务器环境保存图片） matplotlib.use('Agg') import sklearn # 导入机器学习工具库 # 强制使用CPU，禁用GPU加速（如果需要GPU加速可移除这些代码） os.environ["CUDA_VISIBLE_DEVICES"] = "-1" # 设置环境变量，指定不可用的GPU设备 tf.config.set_visible_devices([], "GPU") # 显式设置不可用的GPU设备 # 关键修改：禁用分布式检测（适用于TensorFlow 2.19.0版本） import tensorflow.python.keras.engine.data_adapter as data_adapter # 导入数据适配器模块 def is_distributed_dataset_patch(ds): return False # 强制返回非分布式数据集，解决某些版本的兼容性问题 data_adapter._is_distributed_dataset = is_distributed_dataset_patch # 替换原有函数 # 从Keras导入模型和层相关组件 from keras.models import Sequential # 导入顺序模型 from keras.layers import Dense, Dropout # 导入全连接层和Dropout层 from keras.callbacks import EarlyStopping # 导入早停回调函数 from sklearn.model_selection import train_test_split # 导入数据划分函数 from sklearn.preprocessing import StandardScaler # 导入数据标准化工具 import matplotlib.pyplot as plt # 导入绘图模块 # 设置中文字体，确保中文能正常显示 plt.rcParams["font.family"] = ["SimHei"] # 使用黑体 plt.rcParams["axes.unicode_minus"] = False # 正确显示负号 # 数据处理函数定义 def process_data(file_path): """处理单个数据文件，提取前19列和最后一列""" with open(file_path, 'r', encoding='utf-8') as file: file_content = file.read() # 读取文件内容 file_content = ''.join(file_content.split('\n')) # 移除换行符 file_content = file_content.replace(' ', '') # 移除多余空格 try: data = ast.literal_eval(file_content) # 解析字符串为Python数据结构 except Exception as e: print(f"解析数据时出错 ({file_path}): {e}") # 打印错误信息 return None, None # 解析失败返回None first_19_columns = [] # 存储前19列数据 last_column = [] # 存储最后一列数据 for row in data: first_19 = row[:19] # 提取前19个元素 first_19_columns.append(first_19) # 添加到列表 last = row[-1] # 提取最后一个元素 last_column.append(last) # 添加到列表 first_19_array = np.array(first_19_columns) # 转换为NumPy数组 last_column_array = np.array(last_column) # 转换为NumPy数组 return first_19_array, last_column_array # 返回处理后的数据 def process_multiple_files(file_paths): """处理多个数据文件，合并所有文件的数据""" all_first_19 = [] # 存储所有文件的前19列数据 all_last_col = [] # 存储所有文件的最后一列数据 for file_path in file_paths: first_19, last_col = process_data(file_path) # 处理单个文件 if first_19 is not None and last_col is not None: print(f"成功处理文件: {file_path}") # 打印成功信息 all_first_19.append(first_19) # 添加到列表 all_last_col.append(last_col) # 添加到列表 if all_first_19: # 垂直堆叠数组（合并行）和水平堆叠数组（合并列） combined_first_19 = np.vstack(all_first_19) combined_last_col = np.hstack(all_last_col) return combined_first_19, combined_last_col # 返回合并后的数据 else: print("没有成功处理任何文件") # 打印错误信息 return None, None # 没有成功处理任何文件返回None def get_txt_files_in_directory(directory): """获取指定目录下的所有txt文件路径""" if not os.path.exists(directory): print(f"错误：目录 {directory} 不存在") # 打印错误信息 return [] # 目录不存在返回空列表 # 生成目录下所有txt文件的完整路径 return [os.path.join(directory, f) for f in os.listdir(directory) if f.endswith('.txt') and os.path.isfile(os.path.join(directory, f))] # 模型构建函数 def build_neural_network(input_dim): """构建神经网络模型""" model = Sequential([ # 创建顺序模型 Dense(128, activation='relu', input_shape=(input_dim,)), # 输入层和第一个隐藏层 Dropout(0.2), # 防止过拟合的Dropout层，随机丢弃20%的神经元 Dense(64, activation='relu'), # 第二个隐藏层 Dropout(0.2), # 防止过拟合的Dropout层 Dense(32, activation='relu'), # 第三个隐藏层 Dense(1) # 输出层，单个神经元用于回归预测 ]) model.compile( # 编译模型 optimizer='adam', # 使用Adam优化器 loss='mse', # 均方误差损失函数，适合回归问题 metrics=['mae'] # 平均绝对误差，评估预测准确性 ) return model # 返回构建好的模型 # 主函数，程序入口 def main(): # 自动获取目录下的所有txt文件 directory = r"D:\4_python_code\02_BP神经网络" # 设置数据目录路径 file_paths = get_txt_files_in_directory(directory) # 获取所有txt文件路径 if not file_paths: print(f"在目录 {directory} 中未找到txt文件") # 打印错误信息 return # 没有找到文件则退出 # 处理多个文件并获取合并数据 X, y = process_multiple_files(file_paths) # 处理数据 if X is None or y is None: print("没有可用的数据进行训练") # 打印错误信息 return # 没有可用数据则退出 print(f"合并后的数据形状 - 输入: {X.shape}, 输出: {y.shape}") # 打印数据形状 # 数据预处理 - 标准化输入特征 scaler = StandardScaler() # 创建标准化器 X_scaled = scaler.fit_transform(X) # 拟合数据并转换 # 划分训练集和测试集 (80% 训练, 20% 测试) X_train, X_test, y_train, y_test = train_test_split( X_scaled, y, test_size=0.2, random_state=42 # 随机种子确保结果可复现 ) print(f"训练集形状: {X_train.shape}, {y_train.shape}") # 打印训练集形状 print(f"测试集形状: {X_test.shape}, {y_test.shape}") # 打印测试集形状 # 构建神经网络模型 model = build_neural_network(X.shape[1]) # 构建模型 model.summary() # 打印模型结构摘要 # 早停策略 - 防止过拟合 early_stopping = EarlyStopping( monitor='val_loss', # 监控验证损失 patience=10, # 连续10轮没有改善则停止 restore_best_weights=True # 恢复最佳权重 ) # 训练模型 history = model.fit( X_train, y_train, # 训练数据 epochs=100, # 最大训练轮次 batch_size=32, # 批次大小 validation_split=0.2, # 划分20%的训练数据作为验证集 callbacks=[early_stopping], # 早停回调 verbose=1 # 训练过程显示模式 ) # 评估模型 evaluation = model.evaluate(X_test, y_test) # 在测试集上评估模型 print(f"\n测试集评估 - 损失: {evaluation[0]}, MAE: {evaluation[1]}") # 打印评估结果 # 预测测试集 y_pred = model.predict(X_test).flatten() # 对测试集进行预测并展平结果 # 绘制训练过程（确保后端已设置） plt.figure(figsize=(12, 4)) # 创建绘图窗口 plt.subplot(1, 2, 1) # 创建第一个子图 plt.plot(history.history['loss'], label='训练损失') # 绘制训练损失 plt.plot(history.history['val_loss'], label='验证损失') # 绘制验证损失 plt.title('模型损失') # 设置标题 plt.xlabel('训练轮次') # 设置x轴标签 plt.ylabel('损失') # 设置y轴标签 plt.legend() # 显示图例 plt.subplot(1, 2, 2) # 创建第二个子图 plt.scatter(y_test, y_pred, alpha=0.5) # 绘制预测值与实际值的散点图 plt.plot([y_test.min(), y_test.max()], [y_test.min(), y_test.max()], 'r--') # 绘制对角线 plt.title('预测值 vs 实际值') # 设置标题 plt.xlabel('实际值') # 设置x轴标签 plt.ylabel('预测值') # 设置y轴标签 plt.tight_layout() # 自动调整子图间距 # 保存图片（非交互式后端需要显式保存） plt.savefig('training_results.png') # 保存训练结果图 # plt.show() # 非交互式后端不支持show()，如需显示可改用TkAgg后端 # 保存模型 model.save("neural_network_model.h5") # 保存模型到文件 print("模型已保存为 neural_network_model.h5") # 打印保存成功信息 print("训练结果图已保存为 training_results.png") # 打印保存成功信息 if __name__ == "__main__": main() # 调用主函数，启动程序如何调用训练好的模型预测
05-30
TensorFlow提供C++ API加载**冻结的PB模型**： ```cpp tensorflow::GraphDef graph_def; TF_CHECK_OK(ReadBinaryProto(tensorflow::Env::Default(), "frozen_model.pb", &graph_def)); std::unique_ptr<tensorflow::...
基于 NPU/DSP 的图像模型推理框架：SNPE、APU 与 Neural Engine 实战解析
最新发布
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
07-03 900
在移动影像系统中，AI 图像算法的实时部署依赖于 NPU/DSP 等专用异构计算单元的高效调度。为充分发挥芯片能力，不同平台推出了各自的推理框架，如高通的 SNPE、联发科的 APU Toolchain，以及 Apple 的 Neural Engine 管理体系。本文结合多款 SoC 芯片的实战部署经验，系统解析上述三种主流推理框架的核心架构、部署流程、模型适配路径与工程调优策略，帮助开发者理解异构计算背后的图像推理机制，提升图像模型在端侧落地的性能与稳定性。
TensorFlow中的数据流图优化
在TensorFlow中，数据流图的优化是提高模型性能和效率的关键。为了实现这一目标，我们需要遵循一些基本原则： #### 2.1 减少计算图复杂度 在设计数据流图时，要尽量减少不必要的计算步骤和节点，避
PB(powerbuilder)编写的图片布局助手
xiaox的专栏
05-31 1117
程序大量使用datawindow的各种操作，想深入学习dw的朋友，可以参考一下 程序源码下载： 程序开发要点： 1、使用modify函数动态添加、修改、删除 dw控件，如图片、line、text等等。 2、缩略图信息同步更新，使用表达式来做 3、图片层次的切换 动态添加dw控件,没有属性可以直接设置，是由添加的顺序决定层次。 所以这里，用表格保存所以图片当前位置信息，层次调整时把控件...
Tensorflow 初级教程（二）
weixin_30902675的博客
01-08 118
一、Tensorflow 扩展功能1.自动求导2.子图的执行3.计算图控制流4.队列/容器Tensorflow 自动求导当计算tensor C关于tensor W的梯度时，会先寻找从W到C的正向路径，然后从C回溯到W，对这条回溯路径上的每一个节点增加一个对应的求解梯度的节点，根据链式法则计算总的梯度。这就是反向传播算法。这些新增的节点会计算梯度函数，比如[db,dW,dx]=tf.gradient...
Tensorflow之核心教程
baidu_15113429的博客
06-06 869
TensorFlow核心教程 导入Tensorflow TensorFlow程序的规范导入声明如下：import tensorflow as tf这使Python可以访问TensorFlow的所有类，方法和符号。大多数文档假定您已经完成了。 计算图您可能会认为TensorFlow Core程序由两个独立部分组成：1.构建计算图。 2.运行计算图。 计算图形是一系列排列成节点的图形Tenso
子图的概念
yyywww666的专栏
12-21 6220
设G=(V,E)为一个图,H=(V’,E’)也是一个 图,称H为G的一个子图(subgraph),如果 ,并且对任意的边e=uv∈E’必须有u,v∈V’,记为 , 此时也称G为H的母图(super graph). 设H=(V’,E’)为G=(V,E)的一个子图,称H为G的生成(支撑)子图(spanning subgraph),如果V’=V. 设G=(V,E)是一个图,,构造一个新图
tensorflow keras 查找中间tensor并构建局部子图
weixin_34254823的博客
01-14 562
在Mask_RCNN项目的示例项目nucleus中，stepbystep步骤里面，需要对网络模型的中间变量进行提取和可视化，常见方式有两种： 通过 get_layer方法： outputs = [ ("rpn_class", model.keras_model.get_layer("rpn_class").output), ...
TensorFlow学习笔记：编程模型
热门推荐
flyingzhao
10-08 1万+
1 计算图在TensorFlow中，算法都被表示成计算图（computational graphs）。计算图也叫数据流图，可以把计算图看做是一种有向图，图中的节点表示操作，图中的边代表在不同操作之间的数据流动。如图所示，左边的图表示z=x+yz=x+y。从图中可以看到，x y z是图中的三个节点，x和y分别有一个箭头指到z，在z节点的下方有一个+号，表明是一个加法操作，因此最后的输出结果就是z=x+
TensorFlow restore部分变量
Alex.W.的机器学习之路
09-25 4299
有时候我们需要在Tensorflow中restore图的部分变量，比如我们想把两个已经训练好的子图合并成一个大图；或者我们在训练完一个网络结构后对其进行扩展，并且保留已经训练好的部分不变；又或者要对graph的几个部分交替进行训练。 &amp;nbsp; &amp;nbsp; &amp;nbsp; Tensorflow在restore模型的时候是严格按照变量名的对应关系赋值的。例如在构建的Graph里有个name='...
tensorflow [saved_model,.pb]模型生成及处理以及多模型合并到上线服务请求从0到1
码世界
12-03 2887
多模型合并：在模型上线时，我们训练的多个模型往往功能相似或相近或有某种联系，在请求模型的返回结果时，如果一个接一个的去请求，会严重影响程序的效率。并发请求虽然能够缓解这种现象，理论上甚至可以达到与单个模型相同的请求时间，但是实际操作与理论还是有很大差距的。很明显，这种将模型串联起来的方式不够科学。如果把这些模型并联起来，分别接受相同或不同的输入，效果会大大不同，其运行效率与单个模型相差无几。 接...
将Keras模型转换为TensorFlow冻结.pb格式
资源摘要信息: "Keras模型转换为TensorFlow冻结的.pb文件" 知识点: 1. Keras与TensorFlow的关系 Keras是一个高层神经网络API，它可以使用TensorFlow、CNTK或Theano作为后端进行计算。Keras的API设计简洁、模块化，...
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值