DL workbench上手总结

最新推荐文章于 2023-03-14 13:00:57 发布

JachinMa

最新推荐文章于 2023-03-14 13:00:57 发布

阅读量1k

点赞数 1

本文链接：https://blog.youkuaiyun.com/JachinMa/article/details/106531182

版权

DL Workbench是OpenVINO提供的Windows平台量化工具，支持多种模型框架如IR、ONNX、MXNet等。本文介绍了使用该工具的操作流程，并强调了Docker设置、数据集要求以及模型转换的注意事项。通过实验，作者发现将预训练的Caffe MobileNet模型转换为int8后，推断速度和延迟显著提升，且精度得到保持或提高。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

DL workbench是openvino推出的一个win平台上的量化工具。它提供了大量的各个框架的模型，但也支持自己导入模型。它支持的模型框架有IR、ONNX、MXNet、Caffe、TensorFlow,但只支持著名的网络层，其它自定义层要自己手动写。

大概的操作流程见
https://blog.youkuaiyun.com/sandmangu/article/details/103581882
讲得比较详细了。

几个要注意的点是，安装好docker desktop后，如果不能很好地访问外网，最好在setting那里改一下国内源。
在这里插入图片描述
我试过163、ustc和官方中国镜像，效果都不好，建议去阿里申请。

另外，DL workbench支持的数据集也比较有限：
在这里插入图片描述
它对数据集也有着特别的要求：
https://docs.openvinotoolkit.org/latest/_docs_Workbench_DG_Dataset_Types.html
比如说ImageNet_val的label文件里只有label，是默认行数与图片数对应，但这里要求要显式地标记图片名。不过这个也不难，写一个简单的程序就可以了。