Window on arm上编译pytorch

lpcarl

已于 2024-10-30 09:54:02 修改

阅读量285

点赞数 2

CC 4.0 BY-SA版权

分类专栏： Windows on arm开发文章标签： arm开发 pytorch 人工智能

于 2024-10-29 20:21:48 首次发布

本文链接：https://blog.youkuaiyun.com/lpcarl/article/details/143187734

Windows on arm开发专栏收录该内容

6 篇文章 ¥9.90 ¥99.00

订阅专栏

Windows on ARM编译pytorch

1、下载pytorch源码
2、创建编译文件夹

pip无法安装，想自己编译，并且有错误的都可以看这篇

1、下载pytorch源码

git clone --recursive https://github.com/pytorch/pytorch.git
cd pytorch
git submodule sync
git submodule update --init --recursive --jobs 0

2、创建编译文件夹

通过设置配置或者修改cmakelists的配置来关闭一些不支持的功能
在目录中打开cmd

set SLEEF_ARCH_AARCH64=

了解本专栏

订阅专栏解锁全文

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

lpcarl

关注关注

2
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

订阅专栏

Numcpp编译与使用

juluwangriyue的博客

01-20

2068

Numcpp编译与使用1、Numcpp2、测试程序 1、Numcpp 假如你很“不幸”是一名从事机器学习开发的C++程序员，一定很羡慕Python，因为很多热门的软件包都是专门为Python开发。C++程序员只能看着眼馋，甚至包括最热门的NumPy也无法使用。这就是C++版本的NumPy，名为NumCpp，是一位叫David Pilger的程序员开发的。从此用#include也能导入头文件，就像Python程序员用import一样容易。二者除了语法上的差异，调用函数的名称也几乎一致。就算有什么不懂，你也

ARM Ethos-N NPU 架构剖析与 Android 中的部署路径：从 IP 核集成到端侧模型推理实战

努力分享一些人工智能、计算机视觉、影像等相关的知识干货！

05-26

1826

ARM Ethos-N 系列 NPU（Neural Processing Unit）作为针对边缘 AI 任务推出的专用神经网络加速器，已广泛应用于各类搭载 Cortex-A 系列 CPU 的 SoC 芯片中。自 Ethos-N77/N57/N37 等主力产品线推出以来，ARM 提供了一套完整的推理加速链路，从 IP 核硬件结构、软件 SDK 到 Android NNAPI 支持，形成了从 SoC 级集成到应用端部署的闭环生态。本文基于 2025 年最新发布的 ARM 官方技术资料与主流芯片厂商的实际部署案例

参与评论您还未登录，请先登录后发表或查看评论

在windows环境下编译pytorch源码

qwesh157的博客

10-24

2456

本文记录一下自己在windows环境下编译pytorch源码所经过程和踩过的坑。

【亲测免费】在ARM64架构上轻松运行PyTorch：专为Python 3.8定制

gitblog_09804的博客

10-22

1575

在ARM64架构上轻松运行PyTorch：专为Python 3.8定制【下载地址】适用于Python3.8版本的PyTorchARM64架构本仓库提供了专为Python 3.8环境设计的PyTorch库编译版本，特别适配于ARM64（也称为AArch64）架构的系统。这包括但不限于树莓派、Jetson系列开发板或一些...

python arm64_PyTorch-aarch64

weixin_35657612的博客

03-01

2451

PyTorch源码编译步骤：1、源码编译环境：操作系统：debian 9.12交换空间：1GPython版本：3.5硬件：CPU：RK3399(aarch64)内存：4G2、下载依赖包：下载pytorch及其依赖包时，默认从github上下载，如果网络不好、容易断开时，可在gitee上找到对应包克隆链接，然后修改对应配置文件，进行下载。需要细致耐心。3、编译主要参数：设置最大作业数：export ...

在ARM架构下CentOS9部署CUDA与pytorch

m0_53905657的博客

10-02

3189

在ARM架构下部署CUDA与pytorch有许多坑，要多研究多想，找官方文档。本人在课程中需要服务器进行训练，由于学校给的所里服务器为单卡V100，课程300人共用，时常抢不到算力。为了能独占一个显卡，自己搭设了一台单卡A100服务器，用于训练。但是搭设的设备为ARM架构，并不是x86架构，并没有现成的pytorch可以用，（其实有，但是不能使用CUDA计算），以下使用官方镜像，最后成功部署。系统终端输入uname --all，可以看到系统架构。本人使用的是aarch64，发行版为CentOS9。

pytorch arm架构 cuda

weixin_35988836的博客

09-05

976

在ARM架构上实现PyTorch和CUDA的指导随着深度学习的快速发展，PyTorch成为了越来越多开发者和研究者的首选框架。然而，当我们在ARM架构上运行PyTorch并使用CUDA时，事情会变得复杂一些。以下是整套流程以及每一步的详细说明。整体流程以下是实现PyTorch在ARM架构上使用CUDA的步骤： ...

Ubuntu 16.04上源码编译和安装pytorch教程，并编写C Demo CMakeLists.txt

KeZunLin's blog

11-28

2230

本文首发于个人博客https://kezunlin.me/post/54e7a3d8/，欢迎阅读最新内容！ tutorial to compile and use pytorch on ubuntu 16.04 PyTorch for Python install pytorch from anaconda conda info --envs conda activate py...

u013250861的博客

06-01

3127

然后执行，其中MAX_JOBS是并行编译，如果你机器性能不好，建议设置为1，不然可能编译到最后的时候，容易爆内存，然后重新来过.....我的环境是16G内存，CPU是13th Gen Intel(R) Core(TM) i9-13900H，基本上设置MAX_JOBS=4差不多能把内存占满。通过下面的命令下载Pytorch以及所需要的第三方插件，但这个过程会反复失败，问题就是github是境外的原因，即使挂了梯子，依然会反复失败，只能看运气下载成功，因为所有文件大小差不多1~2G，所以全看你的网络情况。

在Arm/Linux下安装python的pytorch库

IT探险者-returningprodigal

08-10

3464

在Arm/Linux下安装python的pytorch库，更新pip库

torch-1.4.0a0+d32aec5-cp37-cp37m-linux_armv7l.whl.tar

12-24

根据pytorch编译所得armv7l安装包python3.7可用torch-1.4.0a0+d32aec5-cp37-cp37m-linux_armv7l.whl.tar

交叉编译pytorch的aarch64版本

GGGddw的博客

11-27

3572

交叉编译pytorch的arm64版本

ubuntu16.04-arm版下载pytorch

weixin_46969696的博客

06-24

2245

要在华为的atlas 200dk上配置一下深度学习的推理环境。网上编译好的包不能直接用，要重新开始编译。下载pytorch 对系统进行更新 1.sudo apt update && sudo apt upgrade 创建python的虚拟环境，因为这个架构还不支持conda，所以要用venv创建虚拟环境。 2.python3 -m venv pytorch 如果是指定版本的，将python3改为python3.6,python3.7即可。但是要先执行如下代码。 3.sudo apt-ge

一步一步教你怎么编译GNU ARM GCC 交叉编译器 arm-none-eabi-gcc

最新发布

guigenyi的专栏

12-17

590

STR是ARM汇编中的存储寄存器指令，用于将寄存器值写入内存。基本语法为STR{size} Rt, [Rn, operand2]，支持字节(B)、半字(H)和字操作。主要寻址模式包括：偏移模式（基址不变）、前变址（先计算地址并更新基址）和后变址（先存储后更新基址）。在ARMv8 64位架构中，寄存器名变为X/W前缀，数据大小通常由寄存器宽度隐含。STR与LDR指令配合使用，是ARM汇编内存操作的基础，常用于变量赋值、函数调用保存寄存器等场景。

交叉编译pytorch

09-20

交叉编译 PyTorch 是一项复杂的任务，通常用于在一种架构（如 x86）上为另一种架构（如 ARM）构建 PyTorch 库。这在嵌入式系统、边缘计算或特定硬件平台上部署 PyTorch 模型时非常有用。 --- ### 🧩 一、交叉编译 PyTorch 的主要步骤 #### 1. **准备交叉编译环境** 你需要一个支持目标平台的交叉编译工具链。例如： - ARM：使用 `arm-linux-gnueabi-gcc` 或 `aarch64-linux-gnu-gcc` - RISC-V：使用 `riscv64-unknown-linux-gnu-gcc` 安装交叉编译工具链（以 ARM 为例）： ```bash sudo apt-get install gcc-arm-linux-gnueabi ``` #### 2. **设置交叉编译配置** 你需要为 CMake 指定交叉编译工具链文件（toolchain file），例如： ```cmake # toolchain-arm.cmake set(CMAKE_SYSTEM_NAME Linux) set(CMAKE_SYSTEM_PROCESSOR arm) set(CMAKE_C_COMPILER arm-linux-gnueabi-gcc) set(CMAKE_CXX_COMPILER arm-linux-gnueabi-g++) set(CMAKE_FIND_ROOT_PATH_MODE_PROGRAM NEVER) set(CMAKE_FIND_ROOT_PATH_MODE_LIBRARY ONLY) set(CMAKE_FIND_ROOT_PATH_MODE_INCLUDE ONLY) set(CMAKE_FIND_ROOT_PATH_MODE_PACKAGE ONLY) ``` #### 3. **获取 PyTorch 源码** ```bash git clone https://github.com/pytorch/pytorch.git cd pytorch git submodule update --init --recursive ``` #### 4. **配置并构建** ```bash mkdir build && cd build cmake -DCMAKE_TOOLCHAIN_FILE=../toolchain-arm.cmake .. make -j$(nproc) ``` > ⚠️ 注意：PyTorch 依赖项较多（如 BLAS、OpenMP、CUDA 等），需要确保目标平台支持这些依赖。 --- ### 🧱 二、交叉编译的注意事项 1. **依赖项管理** - 所有依赖库（如 protobuf、eigen、openblas）也需要交叉编译。 - 推荐使用 `conan` 或 `vcpkg` 等包管理器简化依赖管理。 2. **禁用不需要的模块** 如果你只需要 PyTorch 的推理功能，可以关闭训练相关模块： ```bash cmake -DUSE_CUDA=OFF -DUSE_DISTRIBUTED=OFF -DBUILD_TEST=OFF ... ``` 3. **使用 Docker 或虚拟机** 为了确保环境一致性，推荐使用 Docker 容器进行交叉编译： ```dockerfile FROM arm32v7/ubuntu:20.04 RUN apt-get update && apt-get install -y build-essential cmake ... ``` 4. **PyTorch Lite** 如果目标平台资源受限，可以考虑使用 [PyTorch Lite](https://pytorch.org/blog/introducing-pytorch-lite/)，它是一个轻量级的 PyTorch 子集，更适合嵌入式部署。 --- ### 🧪 三、验证交叉编译结果 1. **在目标平台运行测试** 将编译好的库文件（如 `libtorch.so`）拷贝到目标设备上，运行简单的 PyTorch 推理测试： ```python import torch x = torch.randn(1, 3, 224, 224) print(x.device) ``` 2. **使用 C++ 示例验证** 编译 `libtorch` 后，可以使用 C++ 示例测试： ```cpp #include <torch/torch.h> int main() { torch::Tensor tensor = torch::rand({2, 3}); std::cout << tensor << std::endl; return 0; } ``` --- ### 🧰 四、替代方案（更简单）如果你只是需要在目标平台运行 PyTorch 模型，而不一定非要交叉编译整个 PyTorch： - 使用 **TorchScript** 导出模型（`.pt` 文件），然后在目标平台加载： ```python script_model = torch.jit.script(model) torch.jit.save(script_model, "model.pt") ``` - 在目标平台使用 **PyTorch 官方预编译 wheel**（如果支持）： ```bash pip install torch --index-url https://download.pytorch.org/whl/cpu ``` --- ### 📚 五、参考资料 - PyTorch 官方文档：https://pytorch.org/docs/stable/index.html - PyTorch GitHub 仓库：https://github.com/pytorch/pytorch - CMake 交叉编译指南：https://cmake.org/cmake/help/latest/manual/cmake-toolchains.7.html ---