获取tensorflow lite模型指定中间层的输出

已于 2024-02-25 14:14:57 修改
阅读量962 收藏 6
点赞数 10
分类专栏： 记录篇 文章标签： tensorflow 人工智能 python
于 2024-02-25 14:13:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_45977690/article/details/136281884
版权
文章讲述了作者在使用MobilenetV2模型时，已经训练好并拥有TFLite和ONNX格式的权重。他们试图在推理阶段获取neck部分的输出，通过Netron查看模型结构找到关键层的位置。过程中遇到`TensorDataIsNull`错误，怀疑与TF版本有关，但未详细解决。最后提到在脚本中保存中间层输出的挑战。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

以mobilenet v2为例子，我已经训练好了模型，有tflite格式和onnx格式两种模型的权重文件，我想获取tflite模型在推理阶段neck部分的输出。

  1. 查看onnx模型得到neck最后一层位置

使用netron查看onnx模型结构

在这里插入图片描述
在这里插入图片描述

从name中能知道Reshape是neck的最后一层

  1. 得到neck最后一层的output在tflite模型中的编号

使用netron查看tflite模型结构找到Reshape的输出的编号

在这里插入图片描述

  1. 在推理脚本中增加保存中间层输出

在这里插入图片描述

其他说明：

偶尔同样的操作就会报错ValueError: Tensor data is null. Run allocate_tensors() first，原因有说是tf的版本的原因，但我不更改版本的情况下有时也出现这个问题，以后再细究吧，保存下当前的tf版本：

在这里插入图片描述

如何在tensorflow中打印出中间层的特征输出1
qq_38939498的博客
05-15 2989
如何在tensorflow中打印出中间层的特征输出1 首先想打印出中间层的输出，需要看清出自己使用什么方式搭建的网络模型。搭建网络模型的有通过class搭建和model.add()搭建方式，每种的搭建方式有不同的结构，对应的有不同的方式输出特征层。 1、先说一下通过model.add()搭建的网络模型的中间层的特征输出方式。 首先需要在网络模型中进行定义命名。下面是一些代码，但是训练集就不放在这了。 下面展示一些 内联代码片。 // A code block import tensorflow as tf
TF1 获取神经网络的中间层输出【以 tf.layers.dense为例】
qq_38081870的博客
06-28 1413
TF1 不基于keras 获取神经网络中间层输出。
【Tensorflow|Keras】获取模型指定层的输出
u011590738的博客
08-09 5787
【Keras】获取模型指定层的输出。主要介绍2中方式：通过指定网络层的 index 来获取特定层的输出；通过指定网络层的 name 来获取特定层的输出。
【TensorFlow】神经网络中间层截取、可视化中间层结果
qq_41340996的博客
09-13 3433
在预测的过程中，想要将神经网络模型的中间层结果获取到，并进行可视化。 训练过程中搭建的模型代码如下： class_num = 3 base_model = tf.keras.applications.MobileNetV2(input_shape=IMG_SHAPE, include_top=False, weights=
Tensorflow2.0中获取模型某一层的输出
qq_40128284的博客
11-23 5274
前言： 如题，我们在实验时，通常有这么一个需求：我们已经train好一个model,但是我们希望获取模型的其中的一层的输入，查看某些层提取到了哪些特征，或者对这一层的输出做做一些其他的处理。 #其中Wclass_model为已经训练完毕的模型，这里获取该模型倒数第二层的输出 sub_model = tf.keras.models.Model(inputs = Wclass_model.input,outputs = Wclass_model.layers[-2].output) result
tflite模型调试 - 中间层output输出
abc20002929的专栏
01-12 3706
背景 由于tflite模型设计时考虑到了内存占用等问题，其forward的过程会反复利用中间内存空间，而导致中间层的output数据没有保存下来，模型debug难点较大。 经过查阅相关材料，发现一个最简洁的方式，记录于此。 思路：解析flatbuffer格式的tflite模型， 直接修改tflite模型内容，调整模型output到指定层。 实现 1. 修改tflite模型output的函数。 from tensorflow.lite.python import schema_py_genera
TensorFlow,keras打印中间某一层结果
甜度超标的博客
07-24 1987
TensorFlow,keras打印中间某一层结果
keras、TensorFlow输出中间层结果的4种方法
selectopti的博客
04-21 8869
深度学习本质上是表示学习，它通过多层非线性神经网络模型从底层特征中学习出对具体任务而言更有效的高级抽象特征。针对一个具体的任务，我们往往会遇到这种情况：需要用一个针对特定任务已经被训练好的模型学习出特征表示，然后将学习出的特征表示作为另一个模型的输入。这就要求我们会获取模型中间层的输出，下面以具体代码形式介绍两种具体方法。深度学习具有强大的特征表达能力。有时候我们训练好分类模型，并不想用来进行分类，而是用来提取特征用于其他任务，比如相似图片计算。接下来讲下如何使用TensorFlow提取特征。 1.必须在模
Tensorflow2.0 卷积神经网络可视化 （一）中间特征层可视化
Forrest97的博客
05-02 9867
目录标题中间特征层可视化导入ImageNet VGG16网络加载任一图片构建多特征层输出模型所有中间层的显示参考 中间特征层可视化 导入ImageNet VGG16网络 导入基础包 import numpy as np import matplotlib.pyplot as plt import tensorflow as tf 导入ImageNet VGG16网络 VGG16_model = ...
TensorFlow Lite移动端开发指南: 了解TensorFlow Lite模型编译器
# 1. TensorFlow Lite移动端开发概述 ...通过TensorFlow Lite，开发者可以将训练好的模型转换为适用于移动设备的格式，并在移动设备上进行实时的模型推理，实现各种应用，如图像分类、目标检测、语音识别等。 ###
TensorFlow Lite移动端开发指南: 在Android应用中集成TensorFlow Lite模型
TensorFlow Lite是Google开发的移动端推理引擎，旨在将机器学习模型部署到移动设备上进行快速且高效的推理。它可以帮助开发者在移动应用中实现实时的机器学习功能，包括图像识别、语音识别、自然语言处理等。 ...
TensorFlow Lite模型解释与调试
TensorFlow Lite简介 ## 1.1 TensorFlow Lite概述 TensorFlow Lite是一个用于移动设备、嵌入式设备和物联网设备的轻量级机器学习框架。它针对移动和嵌入式设备的资源和性能进行了优化，能够在这些设备上高效地运行...
【TF lite】从tensorflow模型训练到lite模型移植
lukaslong的博客
02-22 5071
前言 本文使用tensorflow下的ssdlite-mobilenet v2物体检测模型，并转换为tflite模型，并完成测试 1. 安装 TensorFlow Object Detection API 1.1 下载tensorflow-master和models-master 下载地址分别为https://github.com/tensorflow/tensorflow和https:/...
tensorflow2.x构建模型
weixin_43213607的博客
10-19 236
在tf2.x中，构建模型有3种方法：顺序式API，函数式API，子类方法 一、顺序式API def train_model(num_classes): net = tf.keras.Sequential() net.add(tf.keras.Input(shape=(416,416,3))) net.add(tf.keras.layers.Conv2D(6, kernel_size=5, strides=2, padding='valid', activation=tf.nn.rel
如何在tensorflow中打印出中间层的特征输出2
qq_38939498的博客
11-11 2069
关于使用Tensorflow的call定义神经网络的结构的可视化说明 大家可以去找下tensorflow2.x,或者tensorflow1.x的指南，哪里有详细的说明，可以跟着例子跑一下程序，然后调一下，就知道怎么使特征可视化了 ...
移动端深度学习部署：TFlite
最新发布
AIGC Studio：分享AIGC前沿知识和好玩应用，公众号同名。
07-15 5900
tflite是谷歌自己的一个轻量级推理库。主要用于移动端。使用的思路主要是从预训练的模型转换为tflite模型文件，拿到移动端部署。源模型可以来自tensorflow的saved model或者frozen model,也可以来自keras。
tensorflow 保存模型和取出中间权重
binqiang2wang
04-07 7235
下面代码的功能是先训练一个简单的模型，然后保存模型，同时保存到一个pb文件当中，后续可以从pd文件里读取权重值。 import tensorflow as tf import numpy as np import os import h5py import pickle from tensorflow.python.framework import graph_util from tenso...
Tensorflow2.0使用model.fit训练，查看每一层的参数数值以及输出
赫凯的博客
09-09 3888
用模型自定义的方式，很好找出模型的每层输出以及每层网络的参数，在call方法中输出就可以了，甚至还可以打断点。而在.fit中，不太好找了，先看代码。下面就是每层参数代码以及每层输出代码演示。PS.必须得predict一下才可以输出每层的输出值奥。
tensorflow在函数中用tf.Print输出中间值的方法
热门推荐
sjtuxx_lee的博客
11-27 3万+
tensorflow由于其基于静态图的模式，导致写代码的时候很难调试，除了用官方的调试工具外，最直接的方法就是把中间结果输出出来查看，然而，直接用print函数只能输出tensor变量的形状，而不是数值，想要输出tensor的具体数值需要用tf.Print函数。网上有很多关于这个函数使用方法的说明，这里简要介绍： Print( input_, data, message=N...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值