pytorch---onnx---tensorflow踩坑笔记

just-solo

于 2020-12-31 23:54:47 发布

阅读量3.1k

点赞数

本文链接：https://blog.youkuaiyun.com/justsolow/article/details/107530833

版权

pytorch—onnx—tensorflow踩坑笔记

首先我转的模型是centertrack这个模型，其实总的来说这个模型还是比较简单的，但是由于其中有一个DCN卷积在onnx和tensorflow中不支持的自定义算子，所以有很多坑都是围绕他进行的。

首先就是对这个DCN卷积部分的处理，我使用了一个插件的形式来方便插入到onnx中，这是由于onnx支持自定义算子的实现。

插件部分：（类似于这样的插件定义的形式）

###############################################  修改的部分 ############################################################
    @staticmethod
    def symbolic(g, input, offset_mask, weight, bias, stride, padding, dilation, deformable_groups):
        return g.op("Plugin", input, offset_mask, weight, bias, name_s="DCNv2", info_s=json.dumps({
   
            "dilation": dilation,
            "padding": padding,