
onnx
文章平均质量分 61
想要好好撸AI
这个作者很懒,什么都没留下…
展开
-
resnet/dssm/roformer修改onnx节点
为定位该精度问题,对 onnx 模型进行切图操作,通过指定新的 output 节点,对比输出内容来判断出错节点。输入 input_token 为 float16,转 int 出现精度问题,手动修改模型输入接受 int32 类型的 input_token。修改 onnx 模型,将 Initializer 类型常量改为 Constant 类型图节点,问题解决。手动修改 onnx 模型,将 pad 和 下面的 max_pool2d 合并,问题解决。from_onnx 中添加参数。原创 2023-04-14 11:28:44 · 644 阅读 · 0 评论 -
pb/h5/torch转onnx
,),原创 2023-04-14 11:15:26 · 449 阅读 · 0 评论