一,Vitis-AI简介
1,Vitis-AI概述
Vitis-AI在边缘计算设备的AI全栈部署框架中扮演了编译器端与后端的角色,接收前端DNN (Deep Neural Network) 框架训练后的网络参数IR(Intermediate Representation),并将其优化后编译并传递给后端。后端DNNDK(Deep Neural Network Development Kit)为 Edge终端提供了驱动和API,还有调试运行的工具库。
2,网络参数的量化校准(Quantization&Calibration)

神经网络在主流框架训练完成后可导出网络模型.pb 文件,它包含了模型的参数信息。DPU导入该参数信息前,首先需要将其量化,即浮点数定点化。定点化过程中需要输入无需标签的测试集。
准备工作:网络结构可视化。使用Netro工具查看网络结构。
首先安装 snap 平台,然后安装可视化工具 Netron。
sudo apt-get install snapd
sudo apt-get i
本文详细介绍了Vitis-AI的使用,包括DPU的网络参数量化校准、DPU操作和编译过程。首先,讲解了Vitis-AI在边缘计算中的角色和网络参数的量化校准步骤,如使用Netron工具分析网络结构。接着,讨论了DPU的运作原理,并展示了如何编译DPU Kernel,生成动态链接库.so文件。最后,阐述了Linux Docker环境的搭建,特别是安装和运行Xilinx Vitis-AI Docker的步骤。
订阅专栏 解锁全文
1480

被折叠的 条评论
为什么被折叠?



