在Nvidia ORIN进行Pytorch，TorchVision，MMtracking的部署

本文链接：https://blog.youkuaiyun.com/walleva96/article/details/129759872

在基于ARM架构的Orin芯片上，由于其使用NVIDIA的CUDA，不能直接通过pip3安装Pytorch和Torchvision。文章详细介绍了如何根据Jetpack版本下载对应NVIDIA编译的whl文件安装Pytorch，以及因版本不匹配问题安装Torchvision。此外，还提到了成功安装后的测试脚本和部署MMTracking所需的mmcv与mmdetection的安装步骤。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

背景

在Orin上进行Pytorch以及Torchvision的部署，不能够直接通过pip3 Install命令进行部署安装，该命令默认是使用X86的安装版本，我们需要使用nvidia的cuda架构，并且orin是arm架构的芯片，所以，应当通过英伟达官方发布的版本进行安装，当然也可以使用源码进行pytorch编译。

安装Pytorch

pytorch的版本和python的版本以及cuda的版本是严密挂钩的，但是在orin上，我们可以通过查询jetpack版本号，就可以直接下载安装nvidia编译好的现成的whl文件。

通过jtop查询jetpack的版本。如图，我们的jetpack版本是5.0.1。
英伟达的pytorch文件下载地址：
https://developer.download.nvidia.com/compute/redist/jp/v$JP_VERSION/pytorch/ 。
其中，$JP_VERSION变量是我们jetpack的版本，我的安装地址如下： https://developer.download.nvidia.cn/compute/redist/jp/v50/pytorch/，访问结果如下图所示，
我选择torch-1.13.0a0+340c4120.nv22.06-cp38-cp38-linux_aarch64.whl文件，这里面有个非常坑的问题，就是我明明下载的是1.13的pytorch版本，但实际安装之后，它是1.12的版本，英伟达这个低级的错误，令我后续安装torchvision浪费了很多时间。

安装命令：
```
sudo pip3 install torch-1.13.0a0+340c4120.nv22.06-cp38-cp38-linux_aarch64.whl 
```

安装Torchvision

torchvision的版本是需要与pytorch相对应才能够正确编译。https://github.com/pytorch/vision

由于我们安装的pytorch版本是1.12的，所以，torchvision需要下载0.13.0版本。
```
export BUILD_VERSION=0.13.0 
sudo python3 setup.py install --user
```

安装成功的测试脚本

import torch
print(torch.__version__)
print('CUDA available: ' + str(torch.cuda.is_available()))
print('cuDNN version: ' + str(torch.backends.cudnn.version()))
a = torch.cuda.FloatTensor(2).zero_()
print('Tensor a = ' + str(a))
b = torch.randn(2).cuda()
print('Tensor b = ' + str(b))
c = a + b
print('Tensor c = ' + str(c))
import torchvision
print(torchvision.__version__)

测试结果如下图所示：
在这里插入图片描述

部署MMTracking

mmtracking需要依赖mmcv以及mmdetection，所以，需要先部署安装mmcv以及mmdetection。具体的教程，可以参考以下官方链接： https://mmtracking.readthedocs.io/zh_CN/latest/install.html#id2

git clone https://github.com/open-mmlab/mmcv.git
cd mmcv
MMCV_WITH_OPS=1 pip install -e .  # package mmcv-full will be installed after this step
cd ..

git clone https://github.com/open-mmlab/mmdetection.git
cd mmdetection
pip install -r requirements/build.txt
pip install -v -e .

git clone https://github.com/open-mmlab/mmtracking.git
cd mmtracking
pip install -r requirements/build.txt
pip install -v -e .