Jetson Orin NX 部署YOLOv12笔记

最新推荐文章于 2025-10-29 11:44:53 发布

原创

最新推荐文章于 2025-10-29 11:44:53 发布 · 1.7k 阅读

21 ·

CC 4.0 BY-SA版权

文章标签：

#YOLO #嵌入式硬件 #Jetson #英伟达开发板 #yolov12

步骤一.创建虚拟环境

conda create -n yolov12 python=3.8.20

注意：YOLOv12/YOLOv11/YOLOv10/YOLOv9/YOLOv8/YOLOv7a/YOLOv5 环境通用

步骤二.激活虚拟环境

conda activate yolov12  #激活环境

步骤三.查询Jetpack出厂版本

Jetson系列平台各型号支持的最高Jetpack版本：

注意：涉及JetPack版本大升级5->6，需要用官方工具重做系统,

查看当前出厂版本

apt-cache show nvidia-jetpack  #查看jetpack版本

步骤四.Pytorch安装

安装流程（关键）

YOLOv12官方配置环境要求Pytorch版本为2.2.2，笔者JetsonOrinNX的出厂JetPack版本为5.1.3，故按照英伟达官方对于Jetson提供的预编译包链接，选择链接中最贴近2.2版本的torch进行离线下载，再用命令行进行安装。

离线安装：

Torch下载链接

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

宽容人厚载物

关注关注

11
点赞
踩
21

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

【Jetson】Jetson Orin NX纯系统配置环境

VAN的博客

02-26

5426

Jetson Orin NX纯系统配置环境

jetson orin nx上搭建yolov5的运行环境

weixin_42283539的博客

05-25

3862

选择自己需要的版本的pytorch进行下载，我是安装的v1.12.0版本的。重启后，终端（ctrl+alt+t）中输入jtop即可看到各种信息。终端中会显示，运行结果保存在 runs/detect/exp中。打开requirement，将第9、16、17行用#注释掉。在桌面另起一个终端（ctrl+alt+t），输入。对应torchvision的版本是v0.13.0。yolov5的环境算是初步搭建好了。，我是用的yolov5-7版本的。torch版本是v1.12.0。从github上下载。

参与评论您还未登录，请先登录后发表或查看评论

Jetson Orin Nx上通过deepstream6.3部署yolov8

最新发布

wuhao1213的博客

10-29

310

引言在AIoT与智能视频分析的时代，NVIDIA DeepStream SDK无疑是开发者手中最强大的工具之一。它让我们能够高效地构建高性能的视觉AI应用，处理复杂的视频流数据。但在实际开发中，其复杂的管道和配置常常让人望而却步。本文旨在分享几个DeepStream的核心用法与实战技巧，希望能帮助你快速上手，解决开发中遇到的常见问题，通过deepstream6.3在Jetson板端进行yolov8的模型推理。

Jetson Orin NX torch环境部署

qq237472840的博客

09-09

1194

如果选择安装的是6.1.2，jtop后显示检测不到jetpack版本信息，需要自己手动修改一下jetson-stats的源码，jtop/core/jetson_variables.py文件中。ps：在此页面中关于JetPack6中提供的torch，要求的cudnn要8.x版本的，但是我们如果选择安装JetPack6.1.2中，cudnn是9.x的。在SDK VERSION里可以选择不同版本的JetPack，大概上是一些软件版本不同，对于软件来说最重要就是cuda、cuDNN、TensorRT的版本不同。

Jetson Xavier NX部署YoloX

weixin_57091441的博客

12-04

696

NX板子部署

Jetson Orin NX平台部署YOLOV5-TRT目标检测模型应用

weixin_44377866的博客

12-04

1070

第2步：通过编译将yolov5m.wts转化为yolov5m.engine，并得到libmyplugins.so库文件，推理的时候需要用到这两个文件。使用开源的tensorrtx项目，对yolov5进行TRT转换部署，此项目实现了诸多网络的TensorRT版本，需要对代码进行编译，得到so文件。tensorrtx/yolov5给了一个使用python进行推理的模板：yolov5_trt.py，按照模板，修改上面得到的两个文件的路径即可。拉取yolov5项目。

Jetson orin nx配置realsense，YOLOv5环境

qq_41031072的博客

03-25

702

jetson orin nx配置yolo环境

Jetson Orin NX 基于 ros 部署 yolov8

Agmage的博客

01-02

7363

NVIDIA® Jetson Orin™ NX 算力高达 100 TOPS，性能是上一代产品的 5 倍，适用于多个并发 AI 推理管道，此外它还可以通过高速接口连接多个传感器，因此可为新时代机器人提供理想的解决方案。Jetson Orin NX 模组极其小巧，但可提供高达 100 TOPS 的 AI 性能，功率可在 10 W到 25 W之间进行配置。此模组的性能可高达 Jetson AGX Xavier 的 3 倍、Jetson Xavier NX 的 5 倍。

Jetson Orin平台搭建部署yolov5（一）

weixin_44095109的博客

03-25

2827

3.首先安装了Jetpack的os中都会在/etc/apt/sourch.list.d/中带有nvidia-l4t-apt-source.list文件，里面包含了需要安装基础环境的源路径，不用在单独去下载cuda，cudnn，tensorRT安装包，而且单独下载经过测试存在兼容性问题。cp yolov5/models/yolov5s.yaml yolov5/models/custom.yaml //拷贝标准网络结构，来设置自定义的网络结构。

Jetson Orin NX 重装系统

weixin_42283539的博客

05-25

5283

jetson orin nx重装系统

Jetson Orin NX部署Ollama大模型全流程解析

本文所涉及的“Jetson Orin NX部署Ollama[项目源码]”正是这一趋势下的典型实践案例，集中体现了从硬件调试、环境搭建到本地化AI推理全流程的技术整合能力。该项目聚焦于NVIDIA Jetson Orin NX 16GB开发板这一高性能...

jetson orin nx编译Qt-ROS项目报错排查记录

qq_59148616的博客

02-13

200

注意不要写到 /usr/local/include/opencv4/opencv2 这里，只写到 /usr/local/include/opencv4 即可，否则PCL所用的 flann 库会和 /usr/local/include/opencv4/opencv2 目录下的 flann 库冲突。

jetson orin nano 部署yolov8模型-Python

weixin_45533921的博客

02-22

2963

本文主要记录yolov8模型在Jetson orin nano上的python推理。

基于JetsonOrin载板以YOLOX模型为例，实现环境部署、数据集制作、模型训练与部署

simulation2019的博客

06-28

829

1、conda 创建环境，创建一个单独的torch环境然后在完成torch与torchvision的配置。然后进行测试2、创建YOLOX训练环境3、解决error:Protobuf compiler not found Call Stack再次运行完成后，输入以上即完成环境的配置，由于pip已换成清华源，所以不用科学上网。科学上网时，使用上述代码时，会出现找不到包。

(Ubuntu20.04)Jetson AGX Orin进行部署YOLO5训练测试完整版教程Windows下Labelimg标注自己的数据集使用

梁俊星的博客

11-25

2549

整个实现过程所涉及的文件目录，其中，自备表示自己需要准备的，生成表示无需自己准备。很多朋友都会遇到的一个问题，yolo5-6.1已经不能使用之前的方法了了，是下载源码后的coco示例。

jetson Orin NX升级系统安装jetpack 6.2

weixin_45743760的博客

03-14

2774

jetson orin NX搭载的是M.2固态，因此选择SDK Manage的方法进行刷机升级。

【超详细】英伟达Jetson Orin NX-YOLOv8配置与TensorRT测试

weixin_45679938的博客

06-07

4128

官方链接测试记录快速入门指南：NVIDIA Jetson 与Ultralytics YOLO11测试次数：100次【热启动】效果最佳：MAX功率+CPU,GPU 内核都以最大频率运行。

Jetson Orin NX开发板实现开机自启动，自行运行YOLO节点和ROS节点

Dojinz的博客

02-19

1194

本文主要在Jetson Orin NX开发板上实现开机自启动，自行运行YOLO节点和CPP节点。

jetson-jetpack5 yolo部署安装笔记

jacke121的专栏

09-27

314

jetson-jetpack5 yolo部署安装笔记

jetson orin nx 部署yolov5

03-22

<think>好的，用户想在Jetson Orin NX上部署YOLOv5模型。我需要先整理部署的步骤，并确保涵盖必要的工具和流程。首先，Jetson设备通常使用TensorRT来优化模型，所以可能需要将YOLOv5的PyTorch模型转换为ONNX，然后再转成TensorRT引擎。用户提到的YOLOv4部署参考了Triton Inference Server，但YOLOv5可能也有类似的流程，不过可能需要不同的配置。接下来，环境准备很重要。Jetson Orin NX应该已经安装了JetPack SDK，包含CUDA、cuDNN和TensorRT。需要确认用户是否已经设置好这些环境，或者是否需要更新。然后，安装YOLOv5的依赖项，比如PyTorch的Jetson版本，因为普通的PyTorch可能不兼容ARM架构。然后是模型转换步骤。YOLOv5的官方仓库提供了导出到ONNX的脚本，但可能需要调整参数，比如动态轴设置或者输出层的修改，以便与TensorRT兼容。转换到TensorRT引擎时，使用trtexec工具或者TensorRT的Python API，需要注意输入尺寸和精度（FP16或INT8），这对推理速度影响很大。部署阶段，用户可以选择直接使用TensorRT的运行时进行推理，或者集成到Triton Inference Server。Triton需要配置模型仓库，编写配置文件，指定输入输出和使用的后端。性能优化方面，可能需要调整批次大小、启用动态形状，或者应用量化技术。另外，用户可能关心推理代码的编写，如何预处理图像、运行推理、解析输出框，以及后处理的NMS。还要注意内存管理和多线程处理，确保高效利用Jetson的硬件资源。可能遇到的问题包括模型转换时的层不支持，需要修改模型结构或使用插件；性能调优的参数选择；以及环境依赖的版本兼容性。需要提醒用户查看Nvidia的官方文档和社区资源，比如Jetson论坛或相关GitHub仓库，以获取最新的解决方案。最后，生成相关问题时要覆盖部署步骤、优化方法、性能测试、工具比较和常见问题，帮助用户全面了解整个流程。</think>### 在Jetson Orin NX上部署YOLOv5的步骤 #### 1. **环境准备** - **JetPack SDK安装**：确保Jetson Orin NX已安装最新版JetPack SDK（包含CUDA、TensorRT、cuDNN等组件）[^2]。 - **Python依赖**： ```bash sudo apt-get install python3-pip libopenblas-base libopenmpi-dev pip3 install numpy torch torchvision --extra-index-url https://download.pytorch.org/whl/rocm5.4.2 # 使用Jetson兼容版本 ``` #### 2. **模型转换** - **YOLOv5导出ONNX**： ```bash git clone https://github.com/ultralytics/yolov5 cd yolov5 pip3 install -r requirements.txt python3 export.py --weights yolov5s.pt --include onnx --dynamic ``` 生成的`yolov5s.onnx`需要检查输入/输出层是否兼容TensorRT。 - **转换为TensorRT引擎**： ```bash /usr/src/tensorrt/bin/trtexec --onnx=yolov5s.onnx --saveEngine=yolov5s.engine --fp16 ``` 若使用INT8量化，需添加校准数据参数[^1]。 #### 3. **部署方式选择** - **直接使用TensorRT**： ```python import tensorrt as trt with open("yolov5s.engine", "rb") as f: runtime = trt.Runtime(trt.Logger(trt.Logger.WARNING)) engine = runtime.deserialize_cuda_engine(f.read()) # 创建上下文并分配内存 context = engine.create_execution_context() ``` - **Triton Inference Server集成**： - 创建模型仓库目录结构： ``` model_repository/ └── yolov5 ├── 1 │ └── model.engine └── config.pbtxt ``` - 配置文件示例（`config.pbtxt`）： ```text name: "yolov5" platform: "tensorrt_plan" max_batch_size: 8 input [ { name: "images", data_type: TYPE_FP32, dims: [3, 640, 640] } ] output [ { name: "output0", data_type: TYPE_FP32, dims: [1, 25200, 85] } ] ``` #### 4. **推理优化技巧 - **动态输入支持**：在导出ONNX时添加`--dynamic`参数，允许不同尺寸输入。 - **内存复用**：通过`context.set_optimization_profile_async()`管理内存。 - **多流并行**：使用CUDA流实现异步推理： ```python stream = cuda.Stream() context.execute_async_v2(bindings=[d_input, d_output], stream_handle=stream.handle) ``` #### 5. **性能对比数据（参考）** | 模式 | 分辨率 | FP32延迟 | FP16延迟 | INT8延迟 | |------------|----------|----------|----------|----------| | YOLOv5s | 640×640 | 15ms | 8ms | 5ms | | YOLOv5m | 640×640 | 28ms | 15ms | 9ms |