本教程的目标是不损失任何tvm的功能,编译时要带上llvm以方便生成dll文件。 全网唯一实操教程,本炼丹师亲自操作通过。
可加q群一起讨论: 617191205
本文配套代码及模型: https://download.youkuaiyun.com/download/znsoft/16009093
我们接下来将编译安装tvm with LLVM。 本教程的读者对象是有一定开发经验的同学。小白请绕道,毕竟tvm是开发工具,需要写代码。我们安装它的目的是得到生成的dll文件以加速神经网络推理。
本教程绝对原创,已经验证通过。 前面高能警告,如果看不懂任何一条,请立即停止探索。本文实质上是一篇开发教程。
0. 工作目录
工作目录选择 e:\tvm 也就是所有的其它目录都在它下面。
1. 安装cmake, visual studio 2019, git for windows,anaconda
- cmake: https://cmake.org/download/ 下载一个最新的安装上,记得安装时将环境变量添加到系统中
- visual studio 2019: 社区版即可 , 如果你还没有,请停止本教程的观看。
- git: https://git-scm.com/download/win
- anaconda 安装: https://anaconda.org/ 本包用于创建tvm的python安装环境。毕竟人工智能用户都懂它,不懂的请绕道。
2. 编译 llvm
https://codeload.github.com/llvm/llvm-project/zip/refs/tags/llvmorg-11.0.1
将下载的llvm源码解开,里面有一个llvm目录,将此目录解压到工作目录 e:\tvm
即压缩包中的llvm的路径为e:\tvm\llvm
解开后 ,进入目录
E:\tvm\llvm
mkdir build
cd build
cmake ..
cd ..
cmake --build build --config Release
接下来等,编译成功后,需要生成 E:/tvm/llvm/build/release/bin/llvm-config.exe 文件
3 编译 TVM
进入E:\tvm 目录
运行以下命令获取 源码:
git clone --recursive https://github.com/apache/tvm tvm
cd tvm
mkdir build
copy cmake/config.cmake build/
修改config.cmake
将 e:\tvm\llvm\cmake\config.cmake 复制到 e:\tvm\llvm\build下,并修改相关内容
set(USE_LLVM E:/tvm/llvm/build/release/bin/llvm-config.exe)
本质上是修改USE_LLVM 指向上一步中编译出来的llvm-config.exe 文件的路径
切换目录到e:\tvm\tvm 没错,两个tvm
cd build
cmake -A x64 -Thost=x64 ..
cd ..
cmake --build build --config Release -- /m
接下来就是等待,只要没有错误发生,成功后将得到如下画面
在E:\tvm\tvm\build\Release 下将有tvm.dll /tvm_runtime.dll 等文件,这表示成功
图上最后一句不要理会,忽略,手急粘上的。
4.验证环境
后面安装python包啥的不用我教了吧?
切到anaconda环境下,注意pytorch是我自己的环境,你看着办吧,看不懂立即停止以止损。
搞吧:
编译通过后,测试一把
忽略那个printf错误,毕竟这不是python的错,是我的错。看不懂这个不是期待的错误信息的同学请立即止步。
import tvm 后,如果不报错,表示成功。
以下步骤在自信的情况下可以忽略,不需要尝试,无奈本人是完美主义者:
用denpendencies 看下tvm中有没有llvm
下载: https://github.com/lucasg/Dependencies 并安装。再次提示,看不懂就立即 停止手中的操作。
下面的图中,查看tvm.dll ,如果有图上的符号,证明你编译llvm到tvm中成功: