Vitis AI 基本操作+VAI_Q_PYTORCH用法详解

目录

1. 简介

2. 资料汇总

3. 示例解释

3.1 快速上手示例

4. 总结

---

1. 简介

vai_q_pytorch 是 Vitis AI Quantizer for Pytorch 的缩写，主要作用是优化神经网络模型。它是 Vitis AI 平台的一部分，专注于神经网络的深度压缩。

vai_q_pytorch 的作用包括：

• 解析计算图：从 Pytorch 框架中解析神经网络的计算图，并转换为中间表示（IR）。
• 修改计算图：基于 IR 进行计算图的修改，包括剪枝、量化和图优化。
• 部署：将修改后的 IR 部署到不同的平台上，如 DPU（深度学习处理单元）和 Xilinx AI 引擎。
• 重新组装：将修改后的计算图重新组装回 Pytorch，以便继续使用 Pytorch 的预处理、后处理和分布式系统等功能。

Supported and Limitation

• Python
  • Support version 3.6 ~ 3.7.
• Pytorch
  • Support version 1.2 ~ 1.10.
  • QAT does NOT work with pytorch 1.1~1.3.
  • Data Parallelism is NOT su