在Vitis中编译Vitis AI Library应用

最新推荐文章于 2024-11-29 08:51:33 发布

硬码农二毛哥

最新推荐文章于 2024-11-29 08:51:33 发布

阅读量1.4k

点赞数 1

CC 4.0 BY-SA版权

分类专栏： FPGA AI推理

本文链接：https://blog.youkuaiyun.com/clj609/article/details/119848604

FPGA AI推理专栏收录该内容

15 篇文章 ¥69.90 ¥99.00

订阅专栏

超级会员免费看

本文详细介绍了如何在Vitis环境中编译Vitis AI Library应用，包括新建应用项目、导入文件、配置硬件函数、添加库文件，并提供了完整的编译步骤和验证方法。

如何将Vitis AI Library应用加入Vitis进行编译，生成可执行文件？

Vitis AI Library应用编译

在不使用vitis的情况下，vitis ai library编译方法如下：

//以refinedet为例
$cd ~/Vitis-AI/Vitis-AI-Library/overview/samples/refinedet
$bash -x build.sh

运行上述指令后，生成可执行文件。

build.sh

build.sh中的内容

CXX=${CXX:-g++}
$CXX -std=c++11 -I. -o test_video_facedetect test_video_facedetect.cpp -lopencv_core -lopencv_video -lopencv_videoio -lopencv_imgproc -lopencv_imgcodecs -lopencv_highgui -lvitis_ai_library-refinedet  -pthread -lglog

在Vitis中新建应用

使用之前创建好的platform新建应用。platform创建方式参考https://github.com/Xilinx/Viti

了解本专栏

订阅专栏解锁全文

超级会员免费看

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

硬码农二毛哥

关注关注

1
点赞
踩
4

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

专栏目录

订阅专栏

vitis dpu kernel编译和docker环境搭建

wangjie36的博客

02-23

607

进入Vitis-AI目录下的docker文件夹，运行该目录下的dpu-compiler-docker-install.sh，该脚本会将Vitis-AI Docker 的可运行的镜像直接下载到本地，大小为10GB左右，所需时间取决于网络环境。执行完毕后，会在.elf 文件所在的位置生成在目标板运行yolov3所需的.so文件（DPU Kernel 文件），将其拷贝至实验工程目录下的code/deploy_in_board/Alinx_DNN/ tf_yolov3_vehicle_deploy/。

Vitis AI Library应用

硬码农二毛哥的博客

08-09

1294

Vitis AI提供两种应用例程，VART和Vitis AI Library，下文详细描述了Vitis AI Library中refinedet应用的实现过程。编译AI模型 DNNDK 和Vitis AI Library编译AI库的方式相同。编译refinedet模型 RefineDet模型用来检测人体。 $~/Vitis-AI/AI-Model-Zoo/all_models_1.2/caffe $cp -r cf_refinedet_coco_480_360_0.8_25G_1.2/ ../../..

2 条评论您还未登录，请先登录后发表或查看评论

2 条评论

迷之对象 2023.08.11
大佬，想使用Vitis AI Library 必须要装Vitis AI这个容器嘛？

利用Vitis开发基于ZCU106的神经网络加速器（一）——Vitis概述及XRT编译

GaleZhang的博客

11-19

4767

前言毕设要用到Xilinx家的ZCU106这块板子，了解到最近Xilinx统一了Vivado，XilinxSDK，并集成了常用开源IP核，推出了Vitis统一软件平台，使我们不再需要关注底层的Verilog实现，因此尝试使用Vitis开发一个神经网络加速器，作为毕设的基础。 Vitis架构 XRT 由上图可以看到，Xilinx为我们提供了各种各样的加速库，而XRT(Xilinx Runtime Library)则是我们的代码与Xilinx硬件交互的中间件和媒介。有了XRT，我们就可以用更上层的开发方

Vitis-AI量化编译YOLOv5（Pytorch框架）并部署ZCU104（一）（代码已开源）

热门推荐

m0_45287781的博客

11-20

1万+

Vitis-AI进行量化编译

Vitis_Libraries

jerwey的博客

12-24

759

#define XF_BITSHIFT(flags) xfNPixelsPerCycle<flags>::datashift template <> struct xfNPixelsPerCycle<XF_NPPC1> { static const int datashift = 0; static const int nppc = 1; };...

Vitis_Libraries:葡萄图书馆

05-12

Vitis加速图书馆当前版本： v2020.2_rel 包括一组广泛的，性能优化的开源库，这些库提供了开箱即用的加速功能，并且对现有应用程序的代码更改从最小到零。用于数学，统计，线性代数和DSP的Common Vitis加速库提供了一系列核心功能，可用于各种不同的应用程序。特定于域的Vitis加速库为视觉和图像处理，定量财务，数据库和数据分析，数据压缩等工作负载提供了开箱即用的加速功能。利用合作伙伴加速的库，框架插件和加速的应用程序的不断壮大的生态系统，使之立于不败之地，并加速了您的生产道路。在熟悉的编程语言中使用在您熟悉的常用编程语言（例如C，C ++和Python）中使用Vitis加速库。利用Xilinx平台作为应用程序中的支持者–在应用程序级别上工作，并将您的核心能力集中在解决您所在域中的挑战性问题上，加快获得洞察力的时间并进行创新。无论您是想加速现有x86主机

Vitis AI 编译dnndk应用

硬码农二毛哥的博客

08-01

902

在Vitis AI library中的模型在自定义单板使用中，介绍了如何进行模型库编译，下一步要将模型加入到AI应用中进行编译，生成可执行文件. 编译DNNDK AI应用 DNNDK API与VART API DNNDK API：自定义神经网络时使用。 VART(Vitis-AI RunTime) API ：使用Xilinx Model Zoo中的模型时使用。安装交叉编译环境进入https://github.com/Xilinx/Vitis-AI/tree/v1.2/mpsoc，下载sdk-2020

Vitis AI library中的模型在自定义单板使用

硬码农二毛哥的博客

07-25

713

在Vitis AI设计中，构建模型是其中非常重要的一步。如果使用调用的模型库呢？获取DPU Kernel 下载Vitis AI git clone https://github.com/Xilinx/Vitis-AI.git git checkout v1.2修改DPU配置文件将Vitis-AI中的DPU-TRD文件夹拷贝到工程目录中，DPU-TRD文件夹中修改dpu_conf.vh和prj_config。将dpu_conf.vh中做如下修改: $cd DPU-TRD/prj/Vitis/ $

Vitis AI 全中文文档集合

weixin_45825101的博客

08-28

1139

Vitis AI 全中文文档集合

Xilinx Vitis Libraries：加速应用性能的开源库

gitblog_00740的博客

11-28

521

Xilinx Vitis Libraries：加速应用性能的开源库基础介绍 Xilinx Vitis Libraries 是一个开源项目，旨在为开发者提供一系列性能优化、易于集成的库。这些库可以在Xilinx的统一软件平台上使用，帮助开发者通过最小或无代码更改，加速现有的应用程序。项目的主要编程语言包括C、C++和Python。核心功能数学、统计与线性代数：提供了一系列基础的核心功能，适用...

4、Vitis 开发 Linux 应用编程工程搭建

kevin的博客

08-26

1854

Vitis 开发 Linux 应用编程工程搭建

探索Vitis Libraries：Xilinx的高性能计算新纪元

gitblog_00035的博客

04-12

553

探索Vitis Libraries：Xilinx的高性能计算新纪元 Vitis_LibrariesVitis Libraries项目地址:https://gitcode.com/gh_mirrors/vi/Vitis_Libraries 是Xilinx公司推出的一套全面、优化的软件库，旨在为基于Xilinx FPGA和SoC设备的应用提供高效能计算能力。这个开源项目不仅仅是一个简单的库集合，它代...

Vitis Accelerated Libraries 学习笔记--Vision 库介绍

hi94的博客

06-21

2016

Vitis Vision 库为基于 FPGA 和 AI 引擎的计算机视觉应用提供了强大的支持。它通过一系列优化的内核，覆盖从基本的图像处理操作到高级的图像分析和特征检测。开发者可以利用这些内核来执行色彩转换、像素运算、几何变换等任务，同时享受硬件加速带来的性能优势。Vitis Vision 的设计允许开发者在保持与传统 C/C++ 程序兼容的同时，使用高性能的图像处理函数。这个库的多样性和灵活性使其成为在现代图像处理和机器视觉领域中不可或缺的工具，特别是在需要处理大量数据和实时性要求高的应用场景中。

Vitis HLS 编译环境搭建

yindq1220的博客

11-29

877

安装Vitis HLS后，需要设置windows系统的环境变量。指向编译的opencv库路径。建立工程后，需要指定相关文件的编译库和链接库。截图如下，对应着opencv库文件的位置。有时候需要重装电脑系统，需要重新搭建Vitis HLS的编辑环境，为了方便，记录如下。若上述环境变量或CFLAGS等信息设置错误，会导致Vitis HLS的C仿真失败。上述参数仅个人记录，对于不同的安装路径或者功能，设置参数或不同，需要针对更改。二、Vitis HLS工程中的设置。以下是我的环境变量的设置。

Vitis Accelerated Libraries 学习笔记--OpenCV 安装指南（附 XRT 安装）

hi94的博客

06-19

2185

本文分享 ubuntu 环境下 Xilinx XRT 与 OpenCV 的安装指南。

Vitis Accelerated Libraries 学习笔记--Vision 库的组织结构

hi94的博客

06-25

1362

本文档提供了Vision库的组织结构和详细分类介绍，包括各级目录（L1、L2、L3）下的示例代码、测试、库文件等的详细说明。此外，还包括了TCL和Makefile脚本的解析，这些脚本是在项目开发过程中用于自动化构建和测试的重要工具。TCL脚式主要用于设置环境变量、项目参数、添加文件、设置FPGA部件和时钟，以及条件执行仿真、综合等任务。而Makefile脚本则涉及到设置项目变量、检查环境配置、生成配置文件、编译和运行指令等。

【亲测免费】 Xilinx Vitis Libraries 常见问题解决方案

gitblog_01180的博客

11-26

803

Xilinx Vitis Libraries 常见问题解决方案 1. 项目基础介绍和主要编程语言 Xilinx Vitis Libraries 是一组开源的性能优化库，它为开发者提供了一种简单的方式来利用 Xilinx 处理器实现应用的加速。这些库是 Vitis™ 统一软件平台的一部分，旨在通过最小或零代码更改来加速现有应用程序。Vitis Libraries 提供了针对数学、统计、线性代数和数字...

Xilinx Vitis学习-ug1393

wd1603926823的专栏

07-06

1万+

学习Vitis

Vitis HLS 学习笔记--探究（scal 函数）

hi94的博客

04-16

1307

Vitis Libraries在HLS中扮演了至关重要的角色，它汇集了众多领域内关键的函数以及它们的硬件实现版本，极大地方便了开发者。本文以BLAS库中的scale函数为例，该函数实现了向量的缩放运算，展示了Vitis Libraries的实用性和强大功能。scale函数通过模板参数、数据类型和流对象的复杂组合，实现了数据的并行处理与高效运算，虽然这些高度优化的实现在一开始可能令人望而生畏，但一旦掌握，便能大幅提升数据处理任务的性能。通过深入学习和实践，开发者可以解锁Vitis Libraries的潜力。

我是在vmware中的ubuntu，想使用cpu版本的vitis ai

最新发布

11-24

<think> 我们已经在之前的回答中介绍了使用GPU版本的Vitis AI安装方法。现在用户希望在VMware虚拟机中的Ubuntu系统上使用CPU版本的Vitis AI。由于VMware虚拟机通常不直接支持GPU透传（尤其是NVIDIA GPU），因此使用CPU版本是一个合理的选择。根据引用[1]和[2]的提示，并结合官方文档，以下是针对VMware中Ubuntu系统安装CPU版本Vitis AI的步骤： ### 步骤1：确保VMware和Ubuntu环境准备 - 按照引用[1]的建议，在VMware中安装Ubuntu 20.04，并安装必要软件（如中文输入法等）。 - 确保Ubuntu系统已更新： ```bash sudo apt update sudo apt upgrade -y ``` - 安装Docker（如果尚未安装）： ```bash sudo apt install docker.io sudo systemctl enable --now docker ``` 将当前用户加入docker组以避免使用sudo（需要重新登录生效）： ```bash sudo usermod -aG docker $USER ``` ### 步骤2：克隆Vitis AI存储库 ```bash git clone https://github.com/Xilinx/Vitis-AI cd Vitis-AI ``` ### 步骤3：构建CPU版本的Docker镜像 Vitis AI的Docker构建脚本允许我们构建CPU版本的镜像。在`docker`目录下，运行： ```bash cd docker sudo ./docker_build.sh -t cpu -f opt_pytorch ``` 参数说明： - `-t cpu`：指定目标为CPU环境。 - `-f opt_pytorch`：选择PyTorch框架优化器（也可以选择其他框架，如`opt_tensorflow2`）。构建过程可能需要较长时间（取决于网络和虚拟机性能），因为需要从源下载和安装所有依赖。 ### 步骤4：启动CPU容器构建完成后，使用以下命令启动容器： ```bash docker run -it -v /path/to/local/data:/workspace vitis-ai-cpu:latest ``` 注意： - 这里不需要`--gpus all`参数，因为使用的是CPU版本。 - `-v`参数用于挂载本地目录到容器中（可选）。 ### 步骤5：验证安装进入容器后，运行以下命令验证PyTorch环境（以PyTorch为例）： ```bash python -c "import torch; print(torch.__version__)" ``` 由于是CPU版本，可以检查是否没有GPU可用： ```bash python -c "import torch; print(torch.cuda.is_available())" ``` 应该输出`False`。 ### 注意事项 1. **性能问题**：在虚拟机中运行CPU版本的Vitis AI可能会比较慢，尤其是模型量化和编译等计算密集型任务。建议分配足够的CPU核心和内存给虚拟机（如8核以上，16GB内存）。 2. **存储空间**：构建镜像和运行容器需要足够的磁盘空间（建议预留50GB以上）。 3. **版本兼容性**：确保克隆的Vitis AI存储库版本为3.0（可以通过`git checkout v3.0`切换到指定标签）。 4. **网络问题**：如果构建过程中下载包速度慢，可以尝试修改Dockerfile中的APT源和Pip源为国内镜像（如阿里云、清华源）[^1]。 §§相关问题§§ 1. 如何在VMware中优化Ubuntu性能以运行Vitis AI？ 2. Vitis AI CPU版本支持哪些模型？ 3. 如何解决Vitis AI在CPU模式下运行速度慢的问题？ </think>### 在 VMware 的 Ubuntu 系统中使用 CPU 版本 Vitis AI 的安装指南以下是在 VMware 虚拟机中安装 **CPU 版本 Vitis AI** 的完整步骤（基于 Ubuntu 20.04 系统）： #### 1. 准备 VMware 和 Ubuntu 环境 - **VMware 配置**（引用[1]）： ```bash # 确保启用虚拟化支持： # 1. 在 VMware 设置中勾选"虚拟化 Intel VT-x/EPT" # 2. 分配至少 8GB RAM 和 4 个 CPU 核心 # 3. 磁盘空间 ≥ 50GB ``` - **Ubuntu 基础配置**： ```bash sudo apt update && sudo apt upgrade -y sudo apt install -y git curl wget build-essential ``` #### 2. 安装 Docker（无需 GPU 支持） ```bash # 安装 Docker CE sudo apt install -y docker.io sudo systemctl enable --now docker # 将用户加入 docker 组（引用[1]） sudo usermod -aG docker $USER newgrp docker # 刷新组权限 ``` #### 3. 获取 Vitis AI 源码 ```bash git clone https://github.com/Xilinx/Vitis-AI cd Vitis-AI git checkout v3.0 # 切换到 3.0 版本 ``` #### 4. 构建 CPU 专用 Docker 镜像 ```bash cd docker # 构建 CPU 专用镜像（-t cpu 表示 CPU 版本） sudo ./docker_build.sh -t cpu -f opt_pytorch ``` **参数说明**： - `-t cpu`：指定 CPU 目标平台 - `-f opt_pytorch`：选择 PyTorch 优化框架 - 构建时间约 20-40 分钟（取决于虚拟机性能） #### 5. 启动 CPU 容器 ```bash # 启动容器（注意无 --gpus 参数） docker run -it -v $(pwd)/../:/workspace vitis-ai-cpu:latest # 验证容器环境 (vitis-ai-pytorch) root@docker:/workspace# conda list | grep pytorch ``` 成功进入容器后提示符将变为 `(vitis-ai-pytorch)` #### 6. 验证 CPU 版本功能 ```python # 测试 PyTorch CPU 支持 python -c "import torch; print(f'PyTorch版本: {torch.__version__}, CUDA可用: {torch.cuda.is_available()}')" ``` **预期输出**： ``` PyTorch版本: 1.10.2, CUDA可用: False # 确认 CUDA 不可用 ``` #### 7. 使用 CPU 量化示例模型在容器内运行： ```bash cd /workspace/demo/Vitis-AI-Library/samples/classification # 使用 CPU 量化 ResNet18 模型 bash test.sh --cpu ``` **关键参数**： - `--cpu`：强制使用 CPU 模式 - `--type float`：使用浮点量化（CPU 默认） #### 注意事项 1. **性能优化**： - VMware 设置中开启"虚拟化 CPU 性能计数器" - 在 Ubuntu 中安装 VMware Tools： ```bash sudo apt install -y open-vm-tools-desktop ``` 2. **存储映射**（引用[1]）： ```bash # 解决 VMware 挂载问题： sudo vmware-config-tools.pl # 重新配置共享文件夹 ``` 3. **CPU 模式限制**： - 模型量化速度比 GPU 慢 3-5 倍 - 仅支持浮点量化（不支持 INT8 优化） - 推荐用于模型验证和小规模测试 > 注：完整开发流程参考 [Vitis AI 官方文档](https://github.com/Xilinx/Vitis-AI)，CPU 模式操作与 GPU 模式一致，仅需移除 GPU 相关参数[^1][^2]。