墨衍会员
·
AI 创作全网分发
墨衍智能分发
本文由作者通过墨衍一键同步至各平台
1分发平台
1.2k累计阅读
1.2k平均单平台
已同步平台
优快云
微信公众号
微博
知乎
掘金
百家号
博客园
抖音
小红书
你的文章也可以这样分发
墨衍会员 ¥399起/年，写一次发全网
我也要
最近项目中用到，onnx转tensorRT，以及matlab生成的onnx都是动态的输入，所以将调通的代码上传备份，以防同志们需要或者自己以后用到。
https://github.com/ListenAlone/Onnx2TensorRT
https://github.com/ListenAlone/Onnx2TensorRT文件列表 - coding-code-guide/Onnx2TensorRT - 公开仓库 - CProcesshttps://cprocess.coding.net/public/coding-code-guide/Onnx2TensorRT/git/files
ONNX转TensorRT避坑指南：动态输入形状与静态模型的trtexec参数配置详解
本文详细解析了ONNX转TensorRT过程中动态输入形状与静态模型的trtexec参数配置技巧，帮助开发者避开常见陷阱。通过min/opt/max形状配置、精度控制与性能调优等实战策略，实现高效稳定的模型转换，特别适合需要处理动态批量或分辨率变化的AI应用场景。
onnx模型动态输入形状转静态
onnx模型输入节点动态转静态
Onnx-tensorrt详解之nvonnxparser库
Onnx-tensorrt工程提供了所有onnx builtin layer向trtmodel转换的parser代码。 Onnx-tensorrt工程链接： https://github.com/onnx/onnx-tensorrt 一、nvonnxparser库概览 nvonnxparser库的核心代码文件如下： set(IMPORTER_SOURCES NvOnnxParser....
onnx模型动态输入形状转静态输入形状
早期tf生成的模型，因为是静态图，定义模型时输入的是tf.placeholder ,导出的pb 或都saved model,总是动态，至少batch size 这一维是动态，即[None,H,W,3],H,W有具体值；如果是支持多尺度的输入的话，那输入形状是[None,None,None,3]。以上None部分，也可能是用户常常自定义的一个名称。在pytorch导出onnx时，可以设置是使事使用dynamic,dynamic的价值也就是可以变输入。但在部分边端芯片上部署模型时，通常是必须固定形状的。
【YOLO 系列模型从 ONNX 到 TensorRT Engine 的转换指南：关键步骤与常见问题】
关键修改点包括：调整 ONNX 模型结构、处理动态输入、修复不支持的算子、集成后处理插件。根据具体错误信息调整转换参数或模型结构。文件导出为 TensorRT 的。使用 TensorRT 的。将 YOLO 系列模型的。
ONNX模型部署优化：从静态Batch到动态Batch的工程实践与输入输出层重命名
本文详细介绍了ONNX模型部署优化中从静态Batch到动态Batch的工程实践，包括输入输出层重命名技巧。通过动态Batch支持，模型能够根据实际负载调整Batch大小，显著提升资源利用率和灵活性。文章提供了完整的代码实现和TensorRT部署注意事项，帮助开发者优化模型部署性能。
Pytorch复习笔记--导出Onnx模型为动态输入和静态输入
当使用 Pytorch 将网络导出为 Onnx 模型格式时，可以导出为动态输入和静态输入两种方式。动态输入即模型输入数据的部分维度是动态的，可以由用户在使用模型时自主设定；静态输入即模型输入数据的维度是静态的，不能够改变，当用户使用模型时只能输入指定维度的数据进行推理。在以下代码中，定义了一个网络，并使用动态导出和静态导出两种方式，将网络导出为 Onnx 模型格式。模型，其输出维度也是动态的，并且为对应关系，则表明导出的。显然，动态输入的通用性比静态输入更强。1--动态输入和静态输入。，即默认为静态输入。
解决Opencv dnn模块无法使用onnx模型的问题(将onnx的动态输入改成静态)
最近做人脸识别项目，想只用OpenCV自带的人脸检测和识别模块实现，使用OpenCV传统方法：Haar级联分类器人脸检测+LBPH算法人脸识别的教程已经有了，于是想着用OpenCV中的dnn模块来实现，dnn实现人脸检测也有（详细教程可见我的这篇博客https://blog.youkuaiyun.com/weixin_42149550/article/details/131474284），问题就是基于cnn的人脸识别咋用opencv的dnn模块实现？一番搜索，发现OpenCV的dnn模块在加载YuNet模型时会报错。
一文掌握Pytorch-onnx-tensorrt模型转换
一文掌握Pytorch-onnx-tensorrt模型转换pytorch转onnx pytorch转onnx 对于实际部署的需求，很多时候pytorch是不满足的，所以需要转成其他模型格式来加快推理。常用的就是onnx，onnx天然支持很多框架模型的转换， 如Pytorch,tf,darknet,caffe等。而pytorch也给我们提供了对应的接口，就是torch.onnx.export。下面具体到每一步。 首先，环境和依赖：onnx包，cuda和cudnn，我用的版本号分别是1.7.0, 10.1
onnx-tensorrt：ONNX-TensorRT：ONNX的TensorRT后端
适用于ONNX的TensorRT后端 解析ONNX模型以使用执行。 另请参阅。 有关最近更改的列表，请参见 。 有关常见问题的列表，请参见 。 支持的TensorRT版本 Master分支上的开发适用于具有完整尺寸和动态形状支持的的最新版本。 对于TensorRT的早期版本，请参考其各自的分支。 完整尺寸+动态形状 在具有动态形状支持的全尺寸模式下构建INetwork对象需要调用以下API： C ++ const auto explicitBatch = 1U << static>(nvinfer1::NetworkDefinitionCreationF
J-Flash手动添加华大HC32F460型号全攻略
在嵌入式开发中，Flash编程算法是连接调试工具与微控制器的重要桥梁，它定义了芯片存储器的擦除、编程和校验等底层操作规范。其原理是通过调试接口将算法代码加载到目标芯片的RAM中执行，从而实现对Flash存储器的访问与控制。这项技术的核心价值在于打破了工具链对芯片型号的固有支持限制，使得开发者能够灵活适配各种新兴或定制化的微控制器。在工程实践中，当面对J-Link等主流调试器官方支持包更新滞后时，手动添加芯片型号成为保障开发效率的关键技能。本文以华大半导体的HC32F460系列MCU为例，详细解析了如何通过配
TensorRT ONNX动态轴支持：处理可变输入尺寸
在深度学习部署中，固定输入尺寸的模型往往无法满足实际应用需求。例如，目标检测模型需要处理不同分辨率的图像，自然语言处理模型需要应对可变长度的文本序列。NVIDIA® TensorRT™（张量运行时）通过优化配置文件（Optimization Profile）和ONNX动态轴定义，提供了完整的动态形状支持方案，解决了这一痛点。本文将系统讲解TensorRT如何处理ONNX模型中的动态输入尺寸，从原理...
调试备忘录-SWD协议解析
目录--点击可快速直达 文章目录写在前面1 SWD协议简介2 SWD物理层协议解析2.1 SWD通信时序分析2.2 SWD 寄存器简介2.2.1 DP寄存器2.2.2 AP寄存器2.3 SWD通信流程2.3.1 SWD复位2.3.2 SWD读IDCODE2.3.3 SWD清除错误标志位，并且使能AP调试2.3.4 SWD读取AP IDR(也就是AP寄存器的ID CODE)2.3.5 SWD读写MCU任意寄存器 写在前面 最近由于公司需要，所以就做了个基于SWD协议的离线烧写器。由于.
TensorRT加速推理入门-1：Pytorch转ONNX
PyTorch模型转ONNX模型
Linux音频调试实战：ALSA架构与tinymix工具的高级应用技巧
本文深入探讨了Linux音频调试的核心技术，重点解析了ALSA架构下音频信号的路由与混合机制。通过介绍轻量级命令行工具tinymix的高级应用技巧，指导开发者如何精准排查无声、音量异常、多路音频共存等复杂问题，并分享编写自动化测试脚本以提升嵌入式及智能设备音频开发效率的实战方法。
解决windows10下无法安装.net framework 3.5（包括.net2.0和3.0）
入域电脑，win10系统中安装 .net framework 3.5（包括.net2.0和3.0）
一文读懂 ONNX、TensorRT、OpenVINO部署框架
模型部署以加速为最终目的，首先就会抛弃易用性。这里特指静态图，在固定的范围内做极致的优化。除了模型上的优化，不同硬件厂商更会在贴近不同硬件上做各种底层上的优化。以获得在特定芯片上极致的性能。请期待后续部署教程吧～读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。
SAP ALV表格F4搜索帮助不触发DATA_CHANGE？3步排查搞定
本文针对SAP ALV表格中F4搜索帮助选择值后，DATA_CHANGE事件不触发的经典问题，提供了三步系统性排查方法。核心在于理解F4值回写机制，并需在事件处理中手动填充修改表以通知ALV控件数据变更，从而确保后续校验、自动计算等依赖DATA_CHANGE的逻辑能正常执行。
TensorRT动态输入形状支持详解，适配多变请求
详解TensorRT如何通过动态输入形状支持变长请求，涵盖优化配置文件、显存策略与内核选择机制。结合代码演示从ONNX构建到推理的完整流程，并分享生产环境中profile参数设定经验，助力高并发低延迟AI服务部署。
STM32F4实战：手把手教你实现USB OTG双模式切换（Host/Slave）
本文详细介绍了如何在STM32F4上实现USB OTG双模式切换（Host/Slave），包括硬件架构解析、软件实现机制、主机模式下的U盘读写以及从机模式下的自定义设备开发。通过实战案例和优化技巧，帮助开发者快速掌握USB双角色功能，提升嵌入式系统开发的灵活性和效率。
当SLAM遇上FPGA：打造一个会“硬件加速”的激光雷达SLAM系统
点云数据的运动畸变校正特征点提取与匹配、以及ICP迭代最近点配准。在传统方案中，我们通常用ARM核完成所有计算。但点云配准中的最近邻搜索（KD-Tree）需要大量分支判断，CPU处理起来效率很低；而ICP中的矩阵分解（SVD）虽然计算量大，但非常适合并行化。ZYNQ的特殊之处在于它把ARM（PS端）和FPGA（PL端）集成在同一颗芯片上。ARM擅长跑操作系统、处理复杂逻辑和调度，FPGA擅长做高吞吐量的并行计算。两者之间通过AXI总线高速互联，数据交换延迟只有几十个时钟周期。
TensorRT OnnxParser深度解析：支持最新ONNX opset
你是否曾遇到过这样的困境：训练好的PyTorch模型导出为ONNX后，却因TensorRT不支持最新opset而无法部署？作为连接深度学习框架与高性能推理的桥梁，ONNX opset的兼容性直接决定了模型部署的时效性与灵活性。本文将深入剖析TensorRT OnnxParser的工作原理，详解其对最新ONNX opset的支持情况，并提供从模型导出到推理优化的全流程解决方案。 读完本文，你将获得...
172、摄像头振动与异响分析：VCM 共振、OIS 机械噪声的用户体验改善
摘要： 本文深入探讨了手机摄像头模组中VCM（音圈马达）与OIS（光学防抖）系统产生的振动异响问题及其解决方案。通过实际案例，分析了VCM弹簧片共振、OIS悬丝机械噪声以及系统级共振的成因，提出了硬件改进（如弹簧片厚度调整、阻尼材料应用）、驱动优化（PWM频率微调、软启动配置）和算法避让等综合解决策略。特别强调了量产阶段隐蔽性问题的排查技巧，包括扫频测试、机械阻尼处理和用户体验优化方法（如频率掩蔽）。作者建议工程师避免过度依赖仿真数据，重视实物测试，并与声学团队协作，以解决这类"玄学"问题，提升用户感知体验
YOLOv5 6.1 模型导出：TensorRT Engine 与 ONNX 动态/静态输入配置对比
本文详细对比了YOLOv5 6.1模型导出为TensorRT Engine与ONNX格式时动态/静态输入配置的差异与性能表现。通过分析模型导出工作流、动态输入优势及TensorRT优化策略，帮助开发者根据实际场景选择最佳配置，提升目标检测模型的部署效率与推理性能。
VC中sqlite的使用
在VC中对sqlite的使用，实现数据库大批数据的快速插入，读取数据库中的数据在ListCtrl中显示
文档：亲测可用解决vnc灰屏，黑屏，鼠标大黑叉情况
主要解决vnc-viewer灰屏，黑屏，鼠标大黑叉等现象，详细见文档。
较为详细的记录总结TensorRT的python接口的使用，环境配置，模型转换和静态动态模型推理
先来一段摘抄自网上的TensorRT介绍： TensorRT是英伟达针对自家平台做的加速包，TensorRT主要做了这么两件事情，来提升模型的运行速度。 TensorRT支持INT8和FP16的计算。深度学习网络在训练时，通常使用 32 位或 16 位数据。TensorRT则在网络的推理时选用不这么高的精度，达到加速推断的目的。 TensorRT对于网络结构进行了重构，把一些能够合并的运算合并在了一起，针对GPU的特性做了优化。现在大多数深度学习框架是没有针对GPU做过性能优化的，而英伟达，GPU的生
计算机控制技术及应用
《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术，以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索，主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式，计算机控制系统的数学描述与基本分析方法，以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。
实战教程：如何将静态Batch的ONNX模型转为动态Batch（附TensorRT部署指南）
本文详细介绍了如何将静态Batch的ONNX模型转换为动态Batch，并提供了TensorRT部署的实战指南。通过动态Batch技术，可以显著提升AI模型在视频分析、云服务和边缘设备等场景中的推理效率和资源利用率。文章包含完整的代码示例、常见问题解决方案及性能优化技巧，帮助开发者快速实现模型动态化部署。
汉书HE8，好用的汇编代码编写工具
汉书HE8，好用的汇编代码编写工具早期编写汇编代码所用功能强大
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
413
扫一扫
