模型推理
关注
分享
扫一扫
模型推理简单学习教程
nsq_ai
这个作者很懒，什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
4.36 构建onnx结构模型-Where
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Where结点进行分析。原创 2023-12-31 11:00:56 · 709 阅读 · 0 评论 -
4.35 构建onnx结构模型-Layernorm
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Layernorm结点进行分析。原创 2023-12-31 10:50:12 · 1147 阅读 · 0 评论 -
4.34 构建onnx结构模型-Gemm
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Gemm结点进行分析。原创 2023-12-31 10:44:52 · 1153 阅读 · 0 评论 -
4.33 构建onnx结构模型-Expand
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Expand结点进行分析。原创 2023-12-31 10:37:35 · 786 阅读 · 0 评论 -
4.32 构建onnx结构模型-Erf
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Erf结点进行分析。原创 2023-12-31 10:28:57 · 734 阅读 · 0 评论 -
4.31 构建onnx结构模型-Tile
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Tile结点进行分析。原创 2023-12-30 13:30:59 · 739 阅读 · 0 评论 -
4.30 构建onnx结构模型-TopK
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以TopK结点进行分析。原创 2023-12-30 13:28:06 · 873 阅读 · 0 评论 -
4.29 构建onnx结构模型-Unary
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Abs结点进行分析。原创 2023-12-30 13:21:00 · 508 阅读 · 0 评论 -
4.28 构建onnx结构模型-Unfold
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Unfold结点进行分析。原创 2023-12-30 13:15:59 · 591 阅读 · 0 评论 -
4.27 构建onnx结构模型-Unsuqeeze
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Unsuqeeze结点进行分析。原创 2023-12-30 12:56:10 · 679 阅读 · 0 评论 -
4.26 构建onnx结构模型-Suqeeze
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Suqeeze结点进行分析。原创 2023-12-30 12:50:12 · 514 阅读 · 0 评论 -
4.25 构建onnx结构模型-Split
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Slice结点进行分析。原创 2023-12-30 12:04:50 · 1216 阅读 · 0 评论 -
4.24 构建onnx结构模型-Slice
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Slice结点进行分析。原创 2023-12-30 12:01:21 · 1358 阅读 · 0 评论 -
4.23 构建onnx结构模型-Shape
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Shape结点进行分析。原创 2023-12-30 11:54:09 · 817 阅读 · 0 评论 -
4.22 构建onnx结构模型-Scatter
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Scatter结点进行分析。原创 2023-12-30 11:47:20 · 631 阅读 · 0 评论 -
4.21 构建onnx结构模型-Resize
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Resize结点进行分析。原创 2023-12-30 11:42:06 · 801 阅读 · 0 评论 -
4.20 构建onnx结构模型-Reduce
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Reduce结点进行分析。原创 2023-12-30 11:17:13 · 639 阅读 · 0 评论 -
4.19 构建onnx结构模型-Range
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Range结点进行分析。原创 2023-12-30 10:46:23 · 568 阅读 · 0 评论 -
4.18 构建onnx结构模型-Pad
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Pad结点进行分析。原创 2023-12-30 10:38:27 · 818 阅读 · 0 评论 -
4.17 构建onnx结构模型-Or
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Or结点进行分析。原创 2023-12-30 10:25:57 · 385 阅读 · 0 评论 -
4.16 构建onnx结构模型-And
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以And结点进行分析。原创 2023-12-29 19:38:25 · 459 阅读 · 0 评论 -
4.15 构建onnx结构模型-Max
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Max结点进行分析。原创 2023-12-29 19:23:58 · 382 阅读 · 0 评论 -
4.14 构建onnx结构模型-Min
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Min结点进行分析。原创 2023-12-29 19:10:36 · 485 阅读 · 0 评论 -
4.13 构建onnx结构模型-Conv
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Conv结点进行分析。原创 2023-12-25 15:17:45 · 764 阅读 · 0 评论 -
5.2 onnx推理显示shape 信息
导出onnx过程中，有时会不显示shape信息，导致看起来不方便。原创 2023-12-22 17:36:53 · 887 阅读 · 0 评论 -
4.12 构建onnx结构模型-MatMul
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以MatMul结点进行分析。原创 2023-12-22 17:19:04 · 898 阅读 · 0 评论 -
4.11 构建onnx结构模型-Clip
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Clip结点进行分析。原创 2023-12-12 10:51:03 · 1142 阅读 · 0 评论 -
4.10 构建onnx结构模型-Softmax
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Softmax结点进行分析。原创 2023-12-06 19:55:13 · 956 阅读 · 0 评论 -
4.9 构建onnx结构模型-Equal
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Equal结点进行分析。原创 2023-12-05 10:37:37 · 539 阅读 · 0 评论 -
4.8 构建onnx结构模型-Less
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Less结点进行分析。原创 2023-12-05 10:30:05 · 780 阅读 · 0 评论 -
5.1 onnx 修改权重示例
对onnx 结构中的权重进行修改比如：原本是一个标量，修改为一个一维数组。原创 2023-12-05 10:18:50 · 917 阅读 · 0 评论 -
4.7 构建onnx结构模型-Transpose
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以transpose结点进行分析。原创 2023-11-28 14:57:55 · 1325 阅读 · 0 评论 -
4.6.2 构建onnx结构模型-特殊情况下的Gather
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以gather结点进行分析。原创 2023-11-27 15:20:38 · 624 阅读 · 0 评论 -
4.6 构建onnx结构模型-Gather
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以gather结点进行分析。原创 2023-11-27 15:15:50 · 882 阅读 · 0 评论 -
4.5 构建onnx结构模型-POW
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以pow结点进行分析。原创 2023-11-13 21:57:49 · 269 阅读 · 0 评论 -
4.4 获取onnx每个节点的输出结果
获取onnx每个节点的结果，进行输出显示、保存相关代码简单运用。原创 2023-11-13 11:04:05 · 782 阅读 · 0 评论 -
4.3 cut onnx结构
对现有onnx 进行剪切，得到部分onnx结构采用对应代码，可以进行剪切onnx有些情况不能简单cut，需要进一步处理，这里不做介绍。原创 2023-11-13 10:59:04 · 236 阅读 · 0 评论 -
4.2 onnx简化模型结构
对已有的onnx结构，进行简化操作，onnx提供两种常规操作两种本质上没用改变，都是通过调用onnxsim进行操作看个人使用时机。原创 2023-11-08 19:43:49 · 1161 阅读 · 0 评论 -
4.1 构建onnx结构模型-Reshape
构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch —> onnx2、通过onnx 自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以reshape结点进行分析。原创 2023-11-05 15:22:38 · 1652 阅读 · 0 评论 -
3.2. onnx export multi_batch
将onnx bs=1 修改为多batch操作参考链接：https://www.cnblogs.com/tangjunjun/p/16500116.htmlhttps://blog.youkuaiyun.com/weixin_43863869/article/details/128638397?spm=1001.2101.3001.6650.3&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7ERate-3-128638397原创 2023-10-29 12:24:07 · 248 阅读 · 0 评论