[深度学习主流框架解析一] Onnx

最新推荐文章于 2025-10-09 07:07:41 发布
原创 最新推荐文章于 2025-10-09 07:07:41 发布 · 1.1k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #人工智能

本文深入探讨ONNX模型文件解析，重点介绍了ONNX如何使用protobuf协议，包括onnx.proto、onnx-operators.proto、onnx-ml.proto和onnx-data.proto等多个proto文件的相互关系。模型的顶层结构由ModelProto定义，OperatorProto和OperatorSetProto则定义了运算符参数。此外，onnx-data.proto扩展了基础数据类型。通过对这些proto文件的理解，可以更好地解析和理解ONNX模型文件。

[深度学习主流框架解析一] Onnx

1、模型文件协议解析

Onnx同样也是采用了Protobuf协议进行模型文件的整体构建，与Caffe相比，Onnx使用了多proto文件描述模型。因此，解析Onnx模型文件需要了解多个proto文件之间的关联。

总共的proto文件如下所示：

  • onnx-data.proto
  • onnx-ml.proto
  • onnx-operators.proto
  • onnx-operators-ml.proto
  • onnx.proto

proto文件之间的依赖关系如下所示：

onnx.proto
onnx-operators.proto
onnx-ml.proto
onnx-data.proto
onnx-operators-ml.proto
1.1、onnx.proto说明

整体的模型文件可见下图。

在这里插入图片描述

相关的特性如下所示：

  • ModelProto是模型的最顶端的定义结构
  • 没有定义具体的特定类型的网络层结构，使用NodeProto中的attribute统一定义了各类网络层
1.2、onnx-operators.proto说明

主要定义了OperatorProto和OperatorSetProto这两种消息类型，用于传递特定版本的和具体类型的网络层算子参数

1.3、onnx-ml.proto和onnx-operators-ml.proto说明

onnx-ml.proto等同于onnx.proto
onnx-operators-ml.proto等同于onnx-operators.proto
内部内容基本一致

1.4、onnx-data.proto说明
  • 增加了SequenceProto、MapProto等基础的数据类型
  • 增加了OptionalProto去包含所有的特殊的数据类型
ONNX构架剖析和ProtoBuf
noplaxochia的博客
10-10 503
ONNX（Open Neural Network Exchange Intermediate Representation）是一种神经网络的格式，采用Protobuf二进制形式进行序列化模型。Protobuf 全称叫做Protocal Buffer。是Google提出来的一套表示和序列化数据的机制。Protobuf会根据用于定义的数据结构来进行序列化存储同理，我们可以根据官方提供的数据结构信息，去修改或者创建onnx。Protobuf的编译以及序列化流程。
AI模型互通的新开放生态系统ONNX介绍与实践
hansun008的博客
11-28 2314
不远的将来，当大多数的AI框架和工具都支持ONNX标准的时候，就不会发生为了选择生产环境的AI框架而重新学习、为了能够生产环境应用模型而耗时移植模型等等类似的事件了。每个节点都是对一个运算器的调用。往往在研发阶段需要的模型属性和产品阶段是不同的，而且不同的框架也会在特定的某个属性上有所优化，例如训练速度、对网络架构的支持、是否支持移动设备等等。概括的说就是，ONNX是在跟踪分析AI框架所生成的神经网络在运行时是如何执行的，然后会利用分析的信息，创建一张可以传输的通用计算图，即符合ONNX标准的计算图。
突破大模型推理瓶颈：ONNX多设备协同计算全解析
最新发布
gitblog_00276的博客
10-09 716
你是否还在为大模型推理时遭遇的GPU内存不足、计算效率低下而困扰？随着模型参数规模呈指数级增长，单设备已难以承载复杂的深度学习推理任务。ONNX（Open Neural Network Exchange，开放神经网络交换格式）作为机器学习互操作性的开放标准，通过其多设备协同计算方案，为解决这一痛点提供了革命性的技术路径。本文将深入解析ONNX分布式推理框架的核心机制，带你掌握多节点协同计算的实现原...
使用protobuf解析Onnx文件
Ango_的专栏
11-10 3250
使用OpenCV加载Onnx推理的时候，无法获取到Onnx的网络输入大小，并且对推理速度要求不高不需要使用TensorRT的时候，如何才能得知Onnx的一些必要的信息，OpenCV没有提供接口，只能自己从Onnx文件中解析了。Onnx文件是使用protobuf序列化后的二进制数据，想要读取里面的信息需要使用protobuf将其反序列化为对象才行。编译 protobuf，使用cmake生成vs工程直接编译即可。使用protoc命令，将编写好的proto文件生成C++类定义文件。
Onnx推理框架
thisiszdy的博客
06-18 773
Onnx推理框架
onnx 深度学习_onnx轻松交换深度学习模型
weixin_26641709的博客
10-12 787
onnx 深度学习演示地址介绍(Introduction) ONNX (Open Neural Network Exchange Format) is a format designed to represent any type of Machine Learning and Deep Learning model.ONNX(开放神经网络交换格式)是一种旨在表示任何类型的机器学习和深度学习模型的...
深度学习模型的C++部署：ONNXRUNTIME引领跨平台革命
牧子川的博客
05-31 1885
它不仅支持主流的CPU和GPU，还能在AMD、ARM等硬件上运行，为模型部署提供了极大的灵活性和兼容性。本文作为专注于计算机视觉领域的C++模型部署系列文章的开篇，揭示了C++与ONNXRUNTIME结合在计算机视觉任务中的强大潜力。它不仅提供了接近硬件层面的优化能力，而且通过精细的内存管理和多线程支持，实现了快速且高效的模型推理。：通过实际的计算机视觉项目，如实时目标检测系统，演示如何在C++中利用ONNXRUNTIME进行模型的加载和推理。：拥有庞大的库和框架支持，包括数学运算、图像处理、机器学习等。
深度学习 - onnx-tensorrt-master-ONNX 到 TensorRT 的转换工具 - 用于模型格式转换与推理加速
08-20
该项目作为ONNX与TensorRT之间的桥梁，支持主流深度学习框架（PyTorch、TensorFlow等）导出的ONNX模型，解决了不同框架模型在TensorRT上的部署兼容性问题，是工业级模型部署的关键工具。 #### 核心功能与特性 1. ...
22、深度学习与机器学习框架全解析
blue的专栏
07-15 96
本文全面解析了当前主流的深度学习与机器学习框架，包括TensorFlow、Keras、PyTorch、Caffe、Caffe2、MXNet、Deeplearning4j、Apache Spark MLlib/ML、H2O等，详细介绍了各框架的功能特点、优势、劣势及适用场景。同时，文章结合性能评估和使用流程示例，帮助开发者在不同应用场景下选择合适的框架。此外，还展望了未来框架的发展趋势，如融合与统一、自动化机器学习、边缘计算支持等，为读者提供全面的参考指南。
YOLO深度学习样例数据集含ONNX模型与检测图片
深度学习中的YOLO（You Only Look Once）系列算法是当前计算机视觉领域中最主流、最高效的实时目标检测技术之一。本文件标题为“深度学习yolo样例数据，包含yolox的.onnx和样例图片”，描述中进一步说明其用途为...
模型部署系列：ONNX模型格式的构建、分析和优化指南
2401_85375298的博客
06-04 3544
ONNX（Open Neural Network Exchange，开放式神经网络交换格式）是一种**模型文件格式**，它在模型训练和模型推理中间提供了**中间桥梁**，使得上游不同的训练框架都能导出ONNX格式的模型，给到下游不同的推理框架都可以读取ONNX进行部署。
onnx-1.9.0-1.5.6-API文档-中文版.zip
07-06
赠送jar包：onnx-1.9.0-1.5.6.jar； 赠送原API文档：onnx-1.9.0-1.5.6-javadoc.jar； 赠送源代码：onnx-1.9.0-1.5.6-sources.jar； 赠送Maven依赖信息文件：onnx-1.9.0-1.5.6.pom； 包含翻译后的API文档：onnx-1.9.0-1.5.6-javadoc-API文档-中文(简体)版.zip； Maven坐标：org.bytedeco:onnx:1.9.0-1.5.6； 标签：bytedeco、onnx、中文文档、jar包、java； 使用方法：解压翻译后的API文档，用浏览器打开“index.html”文件，即可纵览文档内容。 人性化翻译，文档中的代码和结构保持不变，注释和说明精准翻译，请放心使用。
onnxruntime-1.10.0-1.5.7-API文档-中文版.zip
07-06
赠送jar包：onnxruntime-1.10.0-1.5.7.jar； 赠送原API文档：onnxruntime-1.10.0-1.5.7-javadoc.jar； 赠送源代码：onnxruntime-1.10.0-1.5.7-sources.jar； 赠送Maven依赖信息文件：onnxruntime-1.10.0-1.5.7.pom； 包含翻译后的API文档：onnxruntime-1.10.0-1.5.7-javadoc-API文档-中文(简体)版.zip； Maven坐标：org.bytedeco:onnxruntime:1.10.0-1.5.7； 标签：bytedeco、onnxruntime、中文文档、jar包、java； 使用方法：解压翻译后的API文档，用浏览器打开“index.html”文件，即可纵览文档内容。 人性化翻译，文档中的代码和结构保持不变，注释和说明精准翻译，请放心使用。
onnx-1.9.0-1.5.6-API文档-中英对照版.zip
07-03
赠送jar包：onnx-1.9.0-1.5.6.jar； 赠送原API文档：onnx-1.9.0-1.5.6-javadoc.jar； 赠送源代码：onnx-1.9.0-1.5.6-sources.jar； 赠送Maven依赖信息文件：onnx-1.9.0-1.5.6.pom； 包含翻译后的API文档：onnx-1.9.0-1.5.6-javadoc-API文档-中文(简体)-英语-对照版.zip； Maven坐标：org.bytedeco:onnx:1.9.0-1.5.6； 标签：bytedeco、onnx、中英对照文档、jar包、java； 使用方法：解压翻译后的API文档，用浏览器打开“index.html”文件，即可纵览文档内容。 人性化翻译，文档中的代码和结构保持不变，注释和说明精准翻译，请放心使用。 双语对照，边学技术、边学英语。
Onnx高效推理框架
weixin_46133588的博客
09-04 3937
Onnx推理框架： 参考： Inference PyTorch Bert Model with ONNX Runtime on GPU pytorch官网说明 Supported Operator Onnx支持的算子 https://pytorch.org/docs/stable/onnx.html?highlight=onnx%20runtime Supported Model Onnx支持的模型： AlexNet DCGAN DenseNet Inception (warning: this m
ONNX 浅析：如何加速深度学习算法工程化？
gzq0723的博客
09-23 536
AlphaGo击败围棋世界冠军李世石以来，关于人工智能和深度学习的研究呈现井喷之势。各种新的算法和网络模型层出不穷，令人眼花缭乱。与之相随的，深度学习的训练和推理框架也在不断的推陈出新，比...
ONNX
陶将的博客
11-22 1396
Open Neural Network Exchange(ONNX)是一个开放的生态系统，它使人工智能开发人员在推进项目时选择合适的工具，不用被框架或者生态系统所束缚。ONNX支持不同框架之间的互操作性，简化从研究到生产之间的道路。ONNX支持许多框架（TensorFlow, Pytorch, Keras, MxNet, MATLAB等等），这些框架中的模型都可以导出或者转换为标准ONNX格式。模型采用ONNX格式后，就可在各种平台和设备上运行。 概述 神经网络的深度学习是通过在数据流图上计算完成的
ONNX(Open Neural Network Exchange)介绍
网络资源是无限的
07-23 6018
ONNX(Open Neural Network Exchange)介绍
AI 推理框架速读（1）—— ONNX
qq_43587443的博客
05-29 532
AI 推理框架速读（1）——ONNX
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值