出除onnx不必要的节点

最新推荐文章于 2024-10-17 09:57:14 发布

原创

最新推荐文章于 2024-10-17 09:57:14 发布 · 763 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#链表 #深度学习 #深度优先

本文探讨如何在ONNX模型中删除不必要的节点，以提高深度学习模型的效率和推理速度。通过深度优先的方式，分析并去除对最终结果没有影响的计算节点。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import onnx

onnx_model = onnx.load("test.onnx")
graph = onnx_model.graph
node  = graph.node

for i in range(len(node)):
	print(node[i

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Fly*Boy

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

onnx如何在中间删除了一个节点，怎么样把剩下的节点连接一起呢

deep_love1314的博客

09-16

1466

onnx

【深度学习】pytorch pth模型转为onnx模型后出现冗余节点“identity”，onnx模型的冗余节点“identity”

q742971636的博客

06-12

2451

onnx模型的冗余节点“identity”如下图。

参与评论您还未登录，请先登录后发表或查看评论

对onnx文件里的冗余节点“identity”进行修剪

weixin_45453121的博客

05-29

2355

在进行模型部署的过程中，我发现转换好的onnx模型含有大量的“identity”节点。实测过程中发现，这些节点不会影响onnx的推理结果，也不会影响onnx转换成的tensorrt推理引擎的推理结果，但是会严重影响onnx的推理速度。同时转换成的tensorrt文件也比正常的大很多，推理速度也会受到严重影响。所以在此记录对“identity”节点的修剪过程和代码。

ONNX节点增、删、改、查（网络结构修改）

LOVELACE01的博客

01-04

2120

onnx模型增删改查，模型部署，算法开发

转换onnx_ONNX简化节点和修改教程

weixin_32642653的博客

01-11

4209

在训练完深度学习的pytorch或者tensorflow模型后，有时候需要把模型转成 onnx，但是很多时候，很多节点比如cast节点，Identity 这些节点可能都不需要，我们需要进行简化，这样会方便我们把模型转成ncnn或者mnn等这些端侧部署的模型格式或者通过tensorRT进行部署。方法1：使用 onnx-simplifier 进行精简一个方法是使用 [onnx-simplif...

【ONNX】删改

qq_37794738的博客

04-07

702

在深度学习模型的部署过程中，对ONNX（Open Neural Network Exchange）模型进行删改是一个常见且重要的步骤。这个过程不仅关系到模型的推理性能和效率，还直接影响到最终部署的成功与否。以下是对ONNX模型进行删改的重要性以及进行这一过程时的重要步骤。

ONNX 删除指定的结点

显闻

06-20

1118

onnx 删除指定的节点

ONNX删除节点示例（Deeplabv3plus）

DazeAJD的博客

08-05

4743

onnx模型修改节点

onnx修改教程

weixin_41521681的博客

01-16

8497

1. 载入ONNX文件输出该模型的节点个数，还有节点中的属性信息，当然也包含静态图的链路形状。 import onnx onnx_model = onnx.load("test.onnx") graph = onnx_model.graph node = graph.node for i in range(len(node)): print(node[i]) 2. 搜索目标节点 for i in range(len(node)): if node[i].op_type == 'Con

4.6.tensorRT基础(1)-实际模型上onnx文件的各种操作

周同学的博客

07-16

1716

4.6.tensorRT基础(1)-实际模型上onnx文件的各种操作

onnx-su_onnx模型修改_onnx_

09-30

- **模型优化**：通过删除冗余或不必要的运算，可以提高模型的运行效率和推理速度。 - **模型定制**：添加自定义操作，以实现特定任务或功能，如增加预处理步骤或后处理逻辑。 - **模型理解和调试**：对于复杂模型，...

ONNX简化节点和修改教程

Mrrunsen的博客

02-10

2158

深入浅出之ONNX文件

浩瀚之水的专栏

10-17

7250

随着深度学习技术的快速发展，越来越多的企业和个人投入到AI研究与应用中。然而，不同的深度学习框架（如TensorFlow、PyTorch等）之间缺乏统一的模型格式，导致模型在不同框架之间的迁移变得困难。为了解决这个问题，ONNX应运而生，它定义了一组通用的算子集、一系列用于构建深度学习模型的模块以及一种通用的文件格式，使得AI开发人员能够将模型与各种框架、工具、运行时和编译器一起使用。开放神经网络交换 ONNX（Open Neural Network Exchange）是一套表示深度神经网络模型。

【模型转换】onnx删除并新增节点

03-28

6738

仍然以【模型转化】修改onnx节点属性这篇文章中的例子为例来学习onnx的基本操作。这次不再修改Squeeze节点的属性(attribute)，而是删除原有Squeeze节点，再在原来位置添加一个新的Squeeze节点。 1.定位要操作的节点 import onnx ...

ONNX内部节点修改方法

热门推荐

麦克斯韦恶魔的博客

04-24

2万+

ONNX内部节点修改方法承接上回《PyTorch转ONNX之F.interpolate》，因为op10的计算输出大小问题，导致我上采样的结果的大小出现小数，由预期输出结果output_size=[1., 3., 9., 9.]变成了output_size=[1., 3., 8.999, 8.999]，经过后续强制转换操作抹平成为了output_size=[1, 3, 8, 8]，这就很气了。如...

ONNX模型修改为自定义节点

ywfwyht的博客

05-27

2300

首先，需要将ONNX模型中的节点修改为自定义节点。要实现这一点，您需要了解自定义节点的定义和如何在ONNX中使用它们。ONNX定义了一个自定义运算符的接口，您可以使用该接口定义自己的运算符，并将其编译为ONNX模型可以识别的格式。具体步骤如下：定义自定义节点的运算符：您需要将自定义节点定义为一个具有输入和输出的函数。函数应该遵循ONNX规范中定义的接口。编写生成自定义节点的代码：您需要编写代码来生成ONNX模型中的自定义节点。生成代码通常基于ONNX运算符定义，使用您定义的自定义节点。

导出onnx需要注意的事项

@bangbang的博客

12-19

712

这些做法的必要性体现在，简化过程的复杂度，去掉gather,shape类的节点，很多时候部分不这么改看似也是可以的，但是需求复杂后，依旧存在各类问题。按照说的这么修改，基本总能成。做了这些，就不需要使用onnx-simplifer了。

onnx手动操作002: ONNX GraphSurgeon( 移除，分解和重构算子,结构查找与合并) onnx_graphsurgeon

ResumeProject的博客

06-02

3574

【代码】onnx手动操作002: ONNX GraphSurgeon( 移除，分解和重构算子)

极智AI | onnx模型增、删、改、查算子节点方法

极智视界

12-05

1423

大家好，我是极智视界，本文介绍一下 onnx 模型增、删、改、查算子节点方法。

ONNX格式