ONNX学习笔记

最新推荐文章于 2025-04-25 08:48:21 发布
最新推荐文章于 2025-04-25 08:48:21 发布
阅读量377 收藏 5
点赞数 6
分类专栏： ONNX 文章标签： 学习 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_49795811/article/details/142180546
版权

1. ONNX

1.1 ONNX简介

onnx(Open Neural Network Exchange)是微软和Facebook提出用来表示深度学习模型的开放格式。可以将任意训练框架（e.g. TensorFlow/Pytorch/OneFlow/Paddle）训练的模型统一转换为ONNX这种格式进行存储。

ONNX不仅存储神经网络模型的权重，也存储了模型的结构信息以及网络中每一层的输入输出和一些其他的辅助信息。

ONNX使用的是Protobuf这个序列化数据结构去存储神经网络的权重信息。

1.2 ProtoBuf简介

ONNX使用的是Protobuf这个序列化数据结构去存储神经网络的权重信息。Protobuf是一种轻便高效的结构化数据存储格式，可以用于结构化数据串行化，或者说序列化。它很适合做数据存储或数据交换格式。可用于通讯协议、数据存储等领域的语言无关、平台无关、可扩展的序列化结构数据格式。目前提供了 C++、Java、Python 三种语言的 API（摘自官方介绍）。

其组织格式核心定义在于onnx.proto，其中定义了Model/Graph/Node/ValueInfo/Tensor/Attribute层面的数据结构。整图通过各节点（Node）的input/output指向关系构建模型图的拓扑结构。

基于ONNX模型，官方提供了一系列相关工具：模型转化/模型优化（simplifier等）/模型部署(Runtime)/模型可视化（Netron等）等。

yolov8 类代码实现，全网唯一 方便研究修改，转onnx学习笔记
jacke121的专栏
08-05 1265
yolov8转onnx学习笔记
ONNX教程
qq_33287871的博客
08-08 1814
一. 简介 ONNX （Open Neural Network Exchange）- 开放神经网络交换格式，作为框架共用的一种模型交换格式，使用 protobuf 二进制格式来序列化模型，可以提供更好的传输性能我们可能会在某一任务中将 Pytorch 或者 TensorFlow 模型转化为 ONNX 模型(ONNX 模型一般用于中间部署阶段)，然后再拿转化后的 ONNX模型进而转化为我们使用不同框架部署需要的类型，ONNX 相当于一个翻译的作用。典型的几个线路： Pytorch->ONNX->
ONNX模型
小秋的博客
04-29 863
ONNX（Open Neural Network Exchange）是一个用于表示深度学习模型的开放标准，它允许模型在不同的深度学习框架之间转换。在ONNX的结构中，每个节点（NodeProto）都执行一个操作，并且可以有零个或多个输入和输出。节点之间的连接定义了数据如何在整个模型中流动。通过这种方式，ONNX模型能够表示复杂的深度学习算法和网络结构。为了更好地理解ONNX模型的结构，可以使用Netron这样的可视化工具来查看ONNX模型的结构图。
onnx
怨行客
05-26 367
1、keras—onnx 方法就是： import keras2onnx keras2onnx.convert_keras # convert to onnx model onnx_model = keras2onnx.convert_keras(model, model.name) temp_model_file = 'model.onnx' keras2onnx.save_model(onnx_model, temp_model_file) sess = onnxruntime.InferenceS
ONNX模型部署指南
最新发布
exlink2012的专栏
04-25 1049
ONNX（Open Neural Network Exchange）是一种开放的神经网络交换格式，旨在为AI模型提供一个统一的表示方式。它允许开发者在不同的深度学习框架之间转换模型，从而实现模型的可移植性和互操作性。
ONNX
qq_35608277的博客
07-19 7061
简介 Open Neural Network Exchange（ONNX，开放神经网络交换）格式，是一个用于表示深度学习模型的标准，可使模型在不同框架之间进行转移（一般用于中间部署阶段）。 ONNX的规范及代码主要由微软，亚马逊 ，Facebook 和 IBM 等公司共同开发，以开放源代码的方式托管在Github上。 目前官方支持加载ONNX模型并进行推理的深度学习框架有： Caffe2, PyT...
ONNX 和
vicavo的专栏
10-12 482
ONNX: 我们可能会在某一任务中将Pytorch或者TensorFlow模型转化为ONNX模型(ONNX模型一般用于中间部署阶段)，然后再拿转化后的ONNX模型进而转化为我们使用不同框架部署需要的类型。 https://oldpan.me/archives/talk-about-onnx https://oldpan.me/archives/pytorch-c-libtorch-in...
简单模型部署（ONNX）
sinat_28931055的博客
08-09 2744
何为算子？神经网络的结构往往能用计算图表示，而其通常识利用ONNX 表示成更容易部署的静态图。在静态图中的节点，被称之为算子。深度学习的发展会不断诞生新算子，为了支持这些新增的算子，ONNX 会经常发布新的算子集，目前已经更新 15 个版本，详情5。自定义新算子未仔细研究，详情参考6。
ONNX模型相关学习笔记
08-24
ONNX 模型相关学习笔记 ONNX 模型介绍 ONNX（Open Neural Network Exchange）是一种开放的神经网络交换格式，用于提供跨框架的模型中间表达框架，用于模型转换和部署。ONNX 使用 Protobuf 二进制格式来序列化模型，...
onnx 1.16 doc学习笔记五：python API-函数、解析与形状推理
青椒的学习笔记
02-23 1174
onnx作为一个通用格式，很少有中文教程，因此开一篇文章对onnx 1.16文档进行翻译与进一步解释，onnx 1.16官方文档：https://onnx.ai/onnx/intro/index.html](https://onnx.ai/onnx/intro/index.html)，开始编辑时间：2024/2/21；最后编辑时间：2024/2/21这是本教程的第四篇，其余内容见上述专栏链接。
2022吴恩达机器学习笔记汇总(共10章节).zip
12-27
2022吴恩达机器学习笔记汇总(共10章节).zip2022吴恩达机器学习笔记汇总(共10章节).zip2022吴恩达机器学习笔记汇总(共10章节).zip2022吴恩达机器学习笔记汇总(共10章节).zip2022吴恩达机器学习笔记汇总(共10章节).zip...
转onnx模型学习汇总及TensorRT部署
qq_35435798的博客
08-06 1080
转onnx模型和TensorRT部署。涉及自动驾驶相关开源算法（bevdepth、MatrixVT、BEVDet poolv2）。有需要可深入交流
ONNX(Open Neural Network Exchange)介绍
网络资源是无限的
07-23 5656
ONNX(Open Neural Network Exchange)介绍
【onnx】——onnx模型计算图解析
怡宝2号
10-12 3165
整个定义是主要就是这三个部分最外层是ModelProto，记录一些模型信息：ir版本，来自pytorch/tensorflow，… ， 和GraphProto////};GraphProto才是核心，里面主要包含：1.保存const tensor + 预训练的参数。2.保存每个op 输入，输出 tensor 名字。}NodeProto}所以整个计算图的node的输入，来自于node.input，node的输出记录在node.output。
【onnx】——跨架构的模型表达
怡宝2号
01-07 538
github 官网 1. onnx是什么 （ONNX，开放神经网络交换）格式，是一个用于表示深度学习模型的标准，可使模型在不同框架之间进行转移。 ONNX是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch, MXNet）可以采用相同格式存储模型数据并交互。 ONNX的规范及代码主要由微软，亚马逊 ，Facebook 和 IBM 等公司共同开发，以开放源代码的方式托管在Github上。目前官方支持加载ONNX模型并进行推理的深度学习框架有： Caf.
ONNX（Open Neural Network Exchange）Introduction and Applications
猛码Memmat
07-22 1044
onnx
[学习笔记] ONNX 基础知识
Le0v1n 的博客
01-24 1万+
ONNX 基础（全是理论，没啥实际作用）
ONNX简明教程
热门推荐
Ericam_
03-16 3万+
前言 大家好，我是Ericam_ 由于项目需要，查阅了ONNX相关资料，整理了一篇小笔记吧~ 如有错误，欢迎指正 一. 简介     ONNX （Open Neural Network Exchange）- 开放神经网络交换格式，作为 框架共用的一种模型交换格式，使用 protobuf 二进制格式来序列化模型，可以 提供更好的传输性能我们可能会在某一任务中将 Pytorch 或者 TensorFlow 模型 转化为 ONNX 模型(ONNX 模型一般用于中间部署阶
ONNX了解与简介
一叶知秋的博客
06-11 1万+
https://oldpan.me/archives/talk-about-onnx
TensorRT学习笔记--Ubun
04-02
### 关于TensorRT在Ubuntu上的学习资料 #### 1. TensorRT简介 TensorRT 是 NVIDIA 提供的一个高性能深度学习推理库，能够优化神经网络模型并将其部署到生产环境中[^1]。它通过减少计算量和内存使用来提高推理速度。 #### 2. 开发环境搭建 为了在 Ubuntu 上使用 TensorRT 进行开发，通常需要完成以下几个步骤： - 安装 CUDA 和 cuDNN：这是 TensorRT 的基础依赖项。 - 下载并安装 TensorRT 库及其相关工具。 - 配置 Python 或 C++ 环境以便调用 TensorRT API。 具体操作可以参考官方文档中的说明。 #### 3. ONNX 转 Engine 流程 当从其他框架（如 PyTorch 或 TensorFlow）转换模型至 TensorRT 时，常用的方法是先将模型导出为 ONNX 格式，再利用 TensorRT 工具链生成 engine 文件。以下是基本流程概述： 创建日志记录器实例用于捕获构建过程中的消息输出；初始化 builder 对象负责管理整个引擎创建周期；定义显存分配策略以及指定目标平台架构参数等设置均在此阶段完成[^2]。 ```python import tensorrt as trt def build_engine(onnx_file_path, logger): with trt.Builder(logger) as builder: network_flags = 1 << int(trt.NetworkDefinitionCreationFlag.EXPLICIT_BATCH) with builder.create_network(network_flags) as network,\ builder.create_builder_config() as config,\ trt.OnnxParser(network, logger) as parser: with open(onnx_file_path, 'rb') as model: if not parser.parse(model.read()): for error in range(parser.num_errors): print(parser.get_error(error)) return None config.max_workspace_size = 1 << 30 # 设置最大工作空间大小 return builder.build_serialized_network(network, config) log = trt.Logger() serialized_engine = build_engine("/path/to/model.onnx", log) with open("/path/to/engine.trt", "wb") as f: f.write(serialized_engine) ``` 上述脚本展示了如何加载 ONNX 模型并通过 TensorRT 构建序列化后的 engine 文件。 #### 4. 学习资源推荐 对于希望深入理解 TensorRT 并应用于实际项目的开发者来说，《Deep Learning Inference with TensorRT》是一份非常有价值的指南材料。此外，在线社区论坛和技术博客也提供了大量实践经验分享，比如针对特定版本更新带来的新特性和最佳实践案例分析等内容值得查阅。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值