前 言
Jetson Orin NX 是专为边缘计算设计的高性能设备,其核心优势包括:
- 超强算力与能效平衡:搭载 NVIDIA Ampere 架构 GPU(含 1024 个 CUDA 核心和 128 个 Tensor Core)及专用深度学习加速器(DLA),AI 性能达 100 TOPS,支持 Super 模式提升算力至 2 倍,同时功耗仅 10-25 瓦,适合嵌入式场景。
- 多传感器融合能力:支持 16 路 GMSL 相机输入、激光雷达、毫米波雷达等多源数据同步处理,通过 μs 级硬件时间戳对齐实现精准环境感知。
- 完善软件生态:依托 JetPack SDK 提供 TensorRT、CUDA 等工具链,可快速将 YOLO 等 AI 模型优化为 TensorRT 引擎,显著降低推理延迟。
- 灵活扩展性:配备 PCIe Gen4、USB 3.2、M.2 等高速接口,支持多摄像头并行接入与复杂传感器配置,适用于智能安防、工业质检等多样化场景。
将 YOLO 算法部署于 Orin NX 的核心原因:
- 实时性保障:YOLO 轻量级架构结合 Orin NX 的硬件加速(如 TensorRT 优化),可实现毫秒级目标检测。例如,YOLOv8 在 Orin NX 上通过 INT8 量化后推理时间缩短至 20ms 以内,满足交通监控、无人机巡检等场景的实时需求。
- 边缘计算优势:本地化处理避免云端依赖,降低网络带宽消耗(如多路 4K 视频流无需上传),同时保护数据隐私。
- 硬件协同优化:Orin NX 的 GPU 和 DLA 专为 AI 推理设计,可并行处理多帧图像。例如,Super 模式下 YOLOv8 的帧率提升 1.5-2 倍,显著增强复杂场景下的检测效率。
- 多场景适配:支持多传感器融合(如 LiDAR + 摄像头)和动态模型更新,适用于智能物流、机器人导航等需实时环境感知与决策的领域。
部署的环境配置都有哪些?
- JetPack SDK 安装:
一般买的Jetson Orin NX边缘计算设备上,都已经刷入了最新 JetPack(如 JetPack 5.1.2),包含 CUDA 11.4、cuDNN 8.6、TensorRT 8.5 、Python3.8 等依赖,这些一般不需要自己安装。
- 基础插件安装:
主要包括:TensorFlow、Pytorch、TorchVision、ZED2相机软件、Ultralyrtics(YOLOV8)。
系 统 信 息
lsb_release -a # 输出系统版本(如Ubuntu 20.04.6 LTS):cite[3]:cite[8]
sudo apt-cache show nvidia-jetpack # 查看JetPack版本(如5.1.3):cite[3]:cite[8]
dpkg -l | grep -E "cuda|tensorrt|opencv" # 检查关键组件(CUDA/TensorRT等)
nvcc --version # 输出CUDA版本(如11.4.315):cite[3]
sudo jetson_stats # 安装后运行jtop,可视化查看CPU/GPU/内存占用:cite[3]
jtop # 可视化查看CPU/GPU/内存占用:cite[3]
比如我的系统信息如下:JetPack=5.1.3 [L4T 35.5.0]、Ubuntu=20.04.6LTS、Python=3.8.20、CUDA=11.4 V11.4.315。
如上述版本无误,但在查询组件时遇见如下报错:
nvcc --version -bash: nvcc: command not found sudo jetson_stats: command not found jtop: command not found# (1)nvcc不可用 # 原因:CUDA 工具链未安装或未正确配置 PATH。 # 解决方案:安装完整 CUDA 工具包: sudo apt install cuda-toolkit-11-4 # JetPack 5.1 默认对应 CUDA 11.4 # 添加 PATH 到环境变量(安装后执行): echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc source ~/.bashrc # (2)jtop 和 jetson_stats 不可用 # 原因:未安装 Jetson 状态监控工具。 # 解决方案:通过 pip 安装 jetson-stats: sudo pip3 install jetson-stats # 安装后重启系统,运行 jtop 即可监控设备状态。
1. Miniconda安装及虚拟环境创建
在 NVIDIA Jetson 设备上(ARM64 架构)安装 Miniconda 已适配 JetPack 5.1.5 和 Ubuntu 20.04 环境:
1.1 下载Miniconda 安装包
Jetson 设备必须使用 aarch64 (ARM64) 版本,x86_64 版本不兼容
wget https://repo.anaconda.com/miniconda/Miniconda3-py38_23.5.2-0-Linux-aarch64.sh
将下载的文件移至路径(后面的几个文件操作类似,不再赘述):/home/nvidia/

1.2 执行安装脚本
bash Miniconda3-py38_23.5.2-0-Linux-aarch64.sh
1.3 创建适配 Jetson 的 Python 环境
conda create -n py38-env python=3.8 -y
conda activate jetson-env
1.4 安装 Jetson 专用扩展包
pip install --pre --extra-index-url https://developer.download.nvidia.com/compute/redist/jp/v51 \
nvidia-cuda-runtime-cu11 \
nvidia-cudnn \
nvidia-tensorrt
1.5 . 配置 CUDA 兼容性(关键步骤)
echo -e "\n# Jetson CUDA Path" >> ~/.bashrc
echo "export LD_LIBRARY_PATH=/usr/local/cuda-11.4/lib64:\$LD_LIBRARY_PATH" >> ~/.bashrc
source ~/.bashrc
2. Pytorch环境搭建
PyTorch 是一个由 Meta(原 Facebook)开发的开源深度学习框架,以灵活性和易用性著称,广泛用于学术研究和工业应用。参考链接:
https://forums.developer.nvidia.com/t/pytorch-for-jetson/72048
Installing PyTorch for Jetson Platform - NVIDIA Docs
2.1 安装依赖
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/arm64/cuda-keyring_1.1-1_all.deb # 1. 下载CUDA存储库密钥环包(适用于Ubuntu 22.04)
sudo dpkg -i cuda-keyring_1.1-1_all.deb# 2. 安装CUDA GPG密钥
sudo apt update # 3. 更新软件包列表
sudo apt -y install libcusparselt0 libcusparselt-dev -y # 4. 安装稀疏矩阵计算库
sudo apt remove python3-sympy # 5. 移除Python符号计算库
2.2 安装Pytorch
PyTorch的安装选择离线和在线的其中一种方式即可!
2.2.1 离线安装
手动进入下载网址下载指定的PyTorch版本。
下载网址:https://forums.developer.nvidia.com/t/pytorch-for-jetson/72048
cd Downloads/ #绝对下载路径
pip3 install torch-2.0.0+nv23.05-cp38-cp38-linux_aarch64.whl
2.2.2 在线安装
export TORCH_INSTALL=https://developer.download.nvidia.cn/compute/redist/jp/v61/pytorch/torch-2.0.0+nv23.05-cp38-cp38-linux_aarch64.whl
sudo python3 -m pip install --no-cache $TORCH_INSTALL
2.3 验证安装
python3 -c "import torch; print(f'Torch: {torch.__version__}')"
# 正常输出版本号:Torch: 2.0.0+nv23.05
3. Torchvision环境搭建
参 考 链 接 :
【问题解决】Jetson nano 安装torchvision-0.15.1_jetson torchvision-优快云博客
https://github.com/pytorch/vision
Quick Start Guide: NVIDIA Jetson with Ultralytics YOLO11
3.1 安装依赖
sudo apt update
sudo apt install ninja-build libwebp-dev libjpeg-dev -y
3.2 安装Torchvision
根据PyTorch与Torchvision版本对应关系,我们需要安装v0.15版本Torchvision。

#安装依赖
sudo apt-get install libjpeg-dev zlib1g-dev libpython3-dev libopenblas-dev libavcodec-dev libavformat-dev libswscale-dev
pip3 install setuptools
#克隆torchvision源代码
git clone --branch v0.15.1 https://gitclone.com/github.com/pytorch/vision torchvision
cd torchvision/
#编译
export BUILD_VERSION=0.15.1
python3 setup.py install
3.3 验证安装
python3 -c "import torchvision; print(f'Torchvision: {torchvision.__version__}')"
4. TensorFlow环境搭建
TensorFlow 是一个由 Google 开发并开源的端到端机器学习和深度学习框架,用于构建和训练各种类型的机器学习模型。参 考 链 接 :
Installing TensorFlow for Jetson Platform - NVIDIA Docs
4.1 安装TensorFlow
TensorFlow的安装选择离线和在线的其中一种方式即可!
4.1.1 离线安装(推荐)
手动进入下载网址下载指定的TensorFlow版本。
cd Downloads/ #绝对下载路径
pip3 install tensorflow-2.10.1+nv22.12-cp38-cp38-linux_aarch64.whl
4.1.2 在线安装
export TORCH_INSTALL=https://developer.download.nvidia.cn/compute/redist/jp/v502/tensorflow/tensorflow-2.10.1+nv22.12-cp38-cp38-linux_aarch64.whl
sudo python3 -m pip install --no-cache $TORCH_INSTALL
4.1.3 安装Numpy
安装指定版本的Numpy:后期的YOLO8也需要该版本的Numpy
sudo pip install numpy==1.23.5
4.2 验证安装
python3 -c "import tensorflow as tf; print(f'TensorFlow: {tf.__version__}')"
# 输出 TensorFlow: 2.10.1

3008

被折叠的 条评论
为什么被折叠?



