【B站保姆级视频教程:Jetson配置YOLOv11环境(六)PyTorch&Torchvision安装】

Jetson配置YOLO环境:PyTorch与Torchvision安装

Jetson配置YOLOv11环境(6)PyTorch&Torchvision安装

1. 安装PyTorch

1.1安装依赖项

sudo apt install libopenblas-dev

libopenblas-dev作用:提供优化的BLAS(Basic Linear Algebra Subprograms)库,用于高效执行线性代数运算。
影响:PyTorch依赖于高效的线性代数运算来加速深度学习模型的训练和推理。libopenblas-dev提供了优化的BLAS实现,可以显著提升PyTorch的性能,尤其是在CPU上运行时。

1.2 下载torch wheel 安装包

前往PyTorch for Jetson,下载所安装的jetpack版本支持的最高版本的torch wheel 安装包到Downloads目录下。

cd /Downloads
wget https://developer.download.nvidia.cn/compute/redist/jp/v512/pytorch/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl

例如:jetpack5.1.x对应下图中红框的torch安装包,需注意Python 版本为 3.8。

在这里插入图片描述

1.3 安装

pip install torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl

2. 安装torchvisiion

2.1 安装依赖

pip install numpy requests Pillow
sudo apt install libjpeg-dev libpng-dev zlib1g-dev libpython3-dev libavcodec-dev libavformat-dev libswscale-dev 

2.2 编译安装torchvision

torchvision暂未发布直接能pip安装的whl版本,因此直接从源码编译。

2.2.1 Torchvisiion版本选择

以torch2.1.0为例,对应的torchvisiion版本为0.16.x。
torch与torchvision版本对应关系

torchtorchvisionPython
main / nightlymain / nightly>=3.9, <=3.12
2.50.20>=3.9, <=3.12
2.40.19>=3.8, <=3.12
2.30.18>=3.8, <=3.12
2.20.17>=3.8, <=3.11
2.10.16>=3.8, <=3.11
2.00.15>=3.8, <=3.11

2.2.2 下载torchvisiion到Downloads目录下

(1)网络ok的话,直接克隆到本地。

cd ./Downloads
git clone --branch v0.16.2 https://github.com/pytorch/vision

(2)网络不行clone慢的话,直接下载压缩包到PC

在这里插入图片描述
再上传jetson,解压即可

unzip vision-0.16.2.zip

2.2.3 编译安装torchvision

cd vision-0.16.2					# 进入torchvision目录
export BUILD_VERSION=0.16.2  		# 将BUILD_VERSION环境变量设置为值 0.16.2  
python3 setup.py install --user		# 使用 Python 的 setuptools 工具将vision包安装到当前用户的本地目录中

需要等待30min左右,出现以下提示则安装成功

在这里插入图片描述

安装成功后退出torchvision的安装目录再import torchvision进行验证,否则会出现以下warning

(pytorch) nx@nx-desktop:~/Downloads/vision-0.15.2$ python
Python 3.8.18 (default, Sep 11 2023, 13:19:25) 
[GCC 11.2.0] :: Anaconda, Inc. on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> import torchvision
/home/nx/Downloads/vision-0.15.2/torchvision/io/image.py:13: UserWarning: Failed to load image Python extension: ''If you don't plan on using image functionality from `torchvision.io`, you can ignore this warning. Otherwise, there might be something wrong with your environment. Did you have `libjpeg` or `libpng` installed before building `torchvision` from source?
  warn(
/home/nx/Downloads/vision-0.15.2/torchvision/__init__.py:25: UserWarning: You are importing torchvision within its own root folder (/home/nx/Downloads/vision-0.15.2). This is not expected to work and may give errors. Please exit the torchvision project source and relaunch your python interpreter.
  warnings.warn(message.format(os.getcwd()))

2.3 安装过程可能出现的bug

若出现error: [Errno 2] No such file or directory: ':/usr/local/cuda/bin/nvcc',请参照:

jetson编译torchvision出现 No such file or directory: ‘:/usr/local/cuda/bin/nvcc‘

3. 验证

查看pytorch运行时真正调用的cuda、cudnn版本:

python -c "import torch; import torchvision; print('PyTorch version:', torch.__version__); print('CUDA available:', torch.cuda.is_available()); print('CUDA version:', torch.version.cuda); print('cuDNN enabled:', torch.backends.cudnn.enabled); print('cuDNN version:', torch.backends.cudnn.version()); print('Torchvision version:', torchvision.__version__)"

在这里插入图片描述


2025-2-4 19:47:09更新:发现了更便捷的安装方式,ultralytics官方已经提供了编译好的torchvision whl包。

4. 更便捷的安装方式

在安装完torch和torchvision的依赖之后,运行下述两行命令即可。若下载慢,出现WARNING: Retrying,直接先下载到本地PC再上传jetson安装即可。
在这里插入图片描述

4.1 JetPack 5.1.2

安装 torch 2.1.0torchvision 0.16.2

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.16.2+c6f3977-cp38-cp38-linux_aarch64.whl

4.2 JetPack 6.1

安装 torch 2.5.0torchvision 0.20

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.5.0a0+872d972e41.nv24.08-cp310-cp310-linux_aarch64.whl
pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.20.0a0+afc54f7-cp310-cp310-linux_aarch64.whl

安装 cuSPARSELt 的依赖性问题 torch 2.5.0

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/arm64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install libcusparselt0 libcusparselt-dev
所给引用内容中未提及在Jetson平台部署Yolov11并加速的方法。不过可参考Yolov5、Yolov8等模型在Jetson上的部署与加速思路来尝试部署Yolov11。 ### 模型选择与优化 可以参考Yolov5为基础进行优化的思路,若Yolov11存在不同精度版本,可选用参数量较小、输入尺寸合适的版本,通过知识蒸馏训练提升小目标检测精度。例如Yolov5选用参数量7M,输入尺寸640×640进行原始4K下采样。同时进行模型剪枝,移除冗余层,压缩模型大小并提升推理速度,像Yolov5能压缩模型大小50%,推理速度提升2倍 [^4]。 ### 硬件加速 - **TensorRT部署**:将Yolov11模型量化到INT8,利用Jetson设备(如Jetson Orin)的Tensor Core加速推理速度。例如Yolov5s模型量化到INT8后,在Jetson Orin利用Tensor Core加速,推理速度可达120fps(1080p输入) [^4]。 - **多线程处理**:采用Python多进程绕过GIL,将视频流分块并行检测,减少单帧处理时间。比如4K帧分割为4个区域进行并行检测 [^4]。 ### 数学优化 - **损失函数改进**:可使用Focal Loss解决小目标样本不平衡问题,公式为$ FL(p_t) = -\alpha_t (1 - p_t)^\gamma \log(p_t) $,其中$p_t$为预测概率,$\alpha_t$和$\gamma$为超参数 [^4]。 - **非极大值抑制(NMS)优化**:采用Soft - NMS减少重叠目标误删,同时动态调整IoU阈值(基于目标大小) [^4]。 ### 实时性保障 - **帧采样策略**:每帧检测,但可基于运动估计跳过背景帧,以保持平均帧率。 - **延迟分析**:对检测时间、传输时间和解码时间进行分析,确保总延迟满足实时性要求。 ### 代码示例 可参考FastDeploy之YoloV8在Jetson上的部署示例: ```python # 参考FastDeploy之YoloV8的示例代码结构 # 具体代码需根据Yolov11的实际情况进行调整 import fastdeploy as fd import cv2 # 加载模型 model_file = "yolov11.onnx" params_file = "" runtime_option = fd.RuntimeOption() model = fd.vision.detection.YOLOv11(model_file, params_file, runtime_option) # 读取图像 image = cv2.imread("test.jpg") # 进行推理 result = model.predict(image) ```
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一只云卷云舒

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值