背景
- 基于pytorch的量化模型转为onnx过程中出现异常
- 使用tensorrt的pytorch_quantization实现进行模型int8量化
- 在转为onnx的过程中,出现异常
RuntimeError: NYI: Named tensors are not supported with the tracer
原因分析
原因定位
- 首先搜索错误:RuntimeError: NYI: Named tensors are not supported with the tracer,发现这种错误还不少,这句话的意思也很明确,tracer不支持命名张量,更深入的原理大家可以自己研究(搜索pytorch转onnx的原理即可)
- 尝试了一些方法,都不管用,包括升级torch、升级onnx、调整opset_version等,均不可行,mmdeploy的issue上有人出现了类似问题,官方说已经修复(issue),也不适用于笔者的问题
- 使用deepseek分析、kimi、Gemini分析,也没有结果
- 至此,只能回头再看报错信息,尝试定位具体的报错位置
if min_amax <= epsilon: # Treat amax smaller than minimum representable of fp16 0

最低0.47元/天 解锁文章

被折叠的 条评论
为什么被折叠?



