Jetson 嵌入式 AI · 第二课：什么是 JetPack？

原创 已于 2025-11-16 15:55:22 修改 · 973 阅读 · 21 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #安全 #边缘计算 #linux #运维

于 2025-11-16 15:47:43 首次发布

Jetson 嵌入式 AI · 第二课：什么是 JetPack？

📺 本课B站视频讲解（Bilibili）：https://www.bilibili.com/video/BV1k1C9BYEAB/

📘 《Yocto项目实战教程》京东购买链接：Yocto项目实战教程

基于 NVIDIA 官方页面整理：NVIDIA JetPack 官方页面
本节课目标：

  • 用最清晰、最通俗的方式讲清 JetPack 是什么
  • 全面融合 NVIDIA 官方定义（JetPack 7 / SBSA / AI Compute Stack）
  • 加入对比表格、流程逻辑图、实战示例
  • 更适合录制视频、做培训课、发布技术博客

在这里插入图片描述

一、JetPack 官方定义（权威 + 视频可直接引用）

来自 NVIDIA 官方页面（已简化为课程语言）：

NVIDIA JetPack™ 是 Jetson 平台的官方软件栈，为构建 AI 边缘应用提供完整工具与库。

最新的 JetPack 7 是迄今最先进的版本，专为“机器人 + 生成式 AI + 超低延迟边缘应用”而设计，具备可预测实时性能、MIG 多实例 GPU 支持、SBSA 架构对齐，并集成完整的 NVIDIA AI 计算栈。

官方入口：NVIDIA JetPack 官方页面

一句话总结：

👉 JetPack = “让 Jetson 真正能用起来”的全部软件基础

包括系统、驱动、CUDA、TensorRT、多媒体、图像处理、开发工具、SDK、容器支持等。

二、JetPack 6 vs JetPack 7 —— 最重要的时代升级（超清晰对比）

JetPack 6 是当前主流生产环境（如 Orin/Xavier），JetPack 7 是下一代（Thor / Gen AI / 新架构）。

项目JetPack 6.xJetPack 7
Linux Kernel5.156.8
Ubuntu22.04 LTS24.04 LTS
底层架构NVIDIA L4T 专有SBSA 标准化架构（更像 ARM 服务器）
GPU常规 GPUMIG（Multi‑Instance GPU）
CUDACUDA 12.x统一 CUDA 13.0（ARM 服务器同版本）
目标设备Nano / Xavier / OrinJetson Thor / 下一代机器人平台
定位边缘 AI机器人 + 生成式 AI + 超实时系统
特点稳定、成熟可扩展、云原生、面向高端机器人

一句话：

👉 JetPack 6 = 当前产品线的核心

👉 JetPack 7 = 下一代机器人 + 大模型边缘计算平台

三、JetPack 软件栈全景图（官方结构 + 学员可快速理解）

以下结构图整合官方 Jetson Software Stack：

┌──────────────────────────────────────────────┐
│                    应用层                    │
│  AI 视觉 / 多摄像头 / LLM 推理 / 机器人控制   │
├──────────────────────────────────────────────┤
│                NVIDIA SDKs                   │
│  DeepStream / Isaac ROS / Holoscan / Triton │
├──────────────────────────────────────────────┤
│             AI Compute Stack (官方)          │
│ CUDA · cuDNN · TensorRT · AI frameworks     │
├──────────────────────────────────────────────┤
│             Jetson Linux Components          │
│   驱动 · 编解码 · 摄像头 · 图形 · 安全 · OTA    │
├──────────────────────────────────────────────┤
│                  Bootloader                  │
└──────────────────────────────────────────────┘

总结：

👉 JetPack 不只是 OS，是整套 AI Edge 软件生态

包括驱动、AI 加速库、图形、多媒体、容器、工具链、官方 SDKs。

四、JetPack 组件完整清单（基于官方“Components”整理）

以下为 NVIDIA 官方页面的结构化内容（已改写为课程用语）：

1. AI Compute Stack（核心中的核心）

组件作用官方入口
CUDAGPU 编程与加速基础Explore CUDA
cuDNN深度学习算子加速Explore cuDNN
TensorRT模型推理加速（YOLO/LLM 都靠它）Explore TensorRT
AI FrameworksPyTorch / Triton / vLLM（即将支持）NGC / 官方镜像

课程总结：

👉 所有 AI 性能 = CUDA + cuDNN + TensorRT 共同决定

2. Jetson Linux Components（底部基础）

子系统作用
Flashing刷机流程（SDK Manager 最推荐）
SecuritySecure Boot / fTPM / 加密
OTA远程更新（嵌入式产品必备）
Graphics APIsOpenGL / Vulkan / EGL
Multimedia APIs摄像头 + 编解码硬件控制（V4L2 / MMAPI）
Computer Vision LibsOpenCV / VPI

一句话：

👉 Jetson Linux = 驱动 + 图形 + 摄像头 + 多媒体 全部在这里

3. 其他关键组件（JetPack 7 强化）

类别用途
Jetson Platform Services模块化平台服务（云、边缘）
Cloud‑Native DesignKubernetes + microservices 支持
Nsight Developer Tools调试 / 剖析 GPU 性能
SDKsDeepStream / Isaac ROS / Holoscan
Community SupportJetson AI Lab + Developer Forums

这些是企业做产品时必须关注的部分。

五、SDK Manager：JetPack 安装的核心流程（专业 + 视频专用逻辑图）

官方入口：https://developer.nvidia.com/nvidia-sdk-manager

SDK Manager 作用（最全表）

功能说明
自动识别 Jetson支持所有 Jetson 型号
下载对应 JetPack 版本自动拉取 6.x 或 7.x
刷写系统UEFI + Kernel + RootFS
安装 AI StackCUDA / TensorRT / cuDNN
安装工具Nsight / Debugger
安装样例Examples + test programs

SDK Manager 安装逻辑图

主机安装 SDK Manager
        ↓
连接 Jetson → 进入 Recovery Mode
        ↓
SDK Manager 自动识别设备与 JetPack 版本
        ↓
刷写 Jetson Linux（内核 + rootfs + 驱动）
        ↓
自动安装 CUDA / TensorRT / 多媒体驱动
        ↓
重启 Jetson → 开始开发

总结：

👉 SDK Manager = 最稳定、最官方、最推荐的安装方式

六、实战示例：基于 JetPack 的 AI 摄像头管线

以下为真实产品会用到的最常见流程：

摄像头 → GStreamer（硬件采集）
        → nvvidconv（GPU 转换）
        → TensorRT（推理）
        → OSD / 显示 / RTSP 输出

适用于：

  • AI 相机
  • 多路视频分析
  • 工业检测
  • 机器人视觉

课程总结：

👉 JetPack 提供摄像头 + 解码 + GPU + 推理解法，缺一不可

七、JetPack 最常见误区（真实工程经验）

误区正解
1. “JetPack = Ubuntu”❌ 完整 AI 软件栈，不是普通 Ubuntu
2. 不用 SDK Manager❌ 驱动不匹配极易翻车
3. 随意升级 JetPack❌ 产品必须锁版本
4. JetPack 自带全部优化❌ 模型仍需 TensorRT 精调

八、第二节课总结（视频可直接念）

  1. JetPack 是 Jetson 的官方软件栈：系统 + 驱动 + AI + 工具链。

  2. JetPack 7 引入 SBSA、MIG、CUDA 13、Linux 6.8，是下一代机器人 + LLM 平台。

  3. 官方推荐使用 SDK Manager 刷写与安装。

  4. JetPack 组件体系庞大：AI Compute Stack、Linux Components、DeepStream、Isaac ROS 等。

  5. 理解 JetPack = 能 V"}] }

  6. 理解 JetPack 的软件栈关系（驱动→AI→SDK）能显著提高开发效率。

九、附录：补充关键概念（SBSA、MIG、Thor）

为了方便学生与读者理解，本节补充本课中出现的核心名词。

1. SBSA（Server Base System Architecture）

SBSA 是 ARM 官方制定的服务器标准化架构，目标是统一 ARM 服务器硬件结构，让系统更易移植、生态更一致。

SBSA 的主要规范包括：

  • 启动流程（UEFI）
  • 中断控制器（GIC）
  • 定时器
  • PCIe 架构
  • 内存布局与 I/O 标准化

JetPack 7 使用 SBSA 架构，意味着 Jetson Thor 更像 ARM 服务器，具备更好的可移植性、企业化支持、云原生能力。

2. MIG（Multi‑Instance GPU）

MIG 是 NVIDIA 数据中心 GPU（A100/H100）中的关键技术，可将一颗 GPU 拆分成多个独立的 “小 GPU”。

每个实例拥有独立资源：

  • 显存空间
  • 计算核心
  • 驱动上下文
  • 调度队列

在 Jetson Thor 中，MIG 让机器人或 LLM 系统可以：

  • 同时运行多个 AI 模型而互不影响
  • 在同一块 GPU 上做任务隔离
  • 保证实时任务与策略任务互不干扰

本质：把大 GPU 切割成多个小 GPU，隔离运行。

3. Thor（Jetson Thor）

Jetson Thor 是 NVIDIA 推出的下一代旗舰级边缘 AI 平台，比 Orin 更强，主要面向：

  • 高性能机器人
  • 大模型（LLM / VLM）边缘推理
  • 多传感器融合系统
  • 企业级实时 AI 应用

Thor 的特点：

  • 对齐 SBSA 标准（更像 ARM 服务器）
  • 支持 MIG
  • 使用更新 GPU 架构
  • 完整支持 JetPack 7
  • CUDA 13 + Ubuntu 24.04 + Kernel 6.8

一句话：
Thor = Jetson 系列面向“机器人 + 大模型”时代的跨代跃迁。

📺 本课B站视频讲解（Bilibili）：https://www.bilibili.com/video/BV1k1C9BYEAB/

📘 《Yocto项目实战教程》京东购买链接：Yocto项目实战教程

嵌入式AI开发者的硬件指南：2024年最佳开发板推荐
AI 原生应用开发的博客
06-17 2027
嵌入式AI的本质是“让边缘设备自己思考”，而开发板是实现这一目标的“硬件载体”。本文聚焦2024年主流嵌入式AI开发板，覆盖从入门学习到工业落地的全场景需求，帮开发者解决“选什么”“怎么用”“为什么选它”的核心问题。本文先拆解开发板的“核心参数”（像分析手机的CPU、电池、接口），再按“入门-中端-高端”分类推荐2024年最值得关注的5款开发板，最后通过实战案例教你“如何用开发板跑AI模型”，并总结选型口诀与未来趋势。算力（TOPS）：AI任务的“处理速度”，数值越大能跑越复杂的模型。功耗（W）
文末含资料链接和视频讲解！探索Jetson Nano深度学习环境搭建：从零到YOLOv5部署的完整指南
FJN110的博客
06-27 250
Jetson Nano深度学习环境搭建指南摘要 本文提供Jetson Nano从系统刷机到YOLOv5部署的完整教程，基于2024中国机器人大赛实战经验。关键步骤包括： 系统刷机 - 选择合适JetPack版本，解决启动常见问题 CUDA配置 - 设置环境变量，验证安装 软件源优化 - 使用国内镜像加速下载 Archiconda安装 - 替代Anaconda的ARM架构方案 YOLOv5环境搭建 - 包含PyTorch特定版本安装、依赖库处理 性能优化 - 针对4GB内存限制的配置建议 教程特别包含奥比中光
Jetson 嵌入式 AI · 第一课：Jetson 与 JetPack 核心概念（最基础但最重要）
Interview_TC的博客
11-13 1577
摘要：本文系统介绍了NVIDIA Jetson嵌入式AI平台的核心概念与产品选型。首先解析Jetson三大系列：Orin Nano（入门级/5-15W）、Orin NX（主流级/10-25W）和AGX Orin（旗舰级/15-60W），通过性能参数对比表明确各型号适用场景。其次揭示Jetson本质是"嵌入式SoM+加速计算模块"，其优势在于TensorRT加速和完整的GPU生态。最后对比市场同类产品，指出Jetson在AI性能和视频处理方面具备明显优势，适合工业应用；而RK3588和树莓
Jetson嵌入式系列模型部署-1
热门推荐
周同学的博客
08-17 1万+
Jetson嵌入式系列模型部署
NVIDIA Jetson系列：嵌入式AI与机器人技术应用
weixin_28933797的博客
11-09 3343
本文还有配套的精品资源，点击获取 简介：NVIDIA Jetson系列是专为边缘设备设计的高性能计算模块，支持深度学习、计算机视觉等AI应用。包括不同型号，如Jetson Nano、TX1、TX2、AGX Xavier，针对不同应用场景。利用GPU和多核CPU进行高效并行处理，配合TensorRT库优化深度学习模型推理，以实现高效实时计算。提供博客资源库和源代码，支持Pyt...
NVIDIA Jetson嵌入式开发板通用刷机教程
qq_43576725的博客
04-24 3443
刷机首先使用使用Micro USB 或者USB Type C 转USB Type A的线缆，将Jetson设备与X86的Ubuntu主机相连接，然后需要使Jetson设备进入到Recovery模式，一般情况下，是通过短接Recovery引脚和GND引脚进入，或者通过按住Recovery按键，然后再上电，上电3-4秒后松开Recovery按键。在此推荐使用命令行进行刷机操作，命令行刷机，除刷机之外，还可以进行Jetson系统备份等操作，同时也支持裁剪操作系统，修改启动logo等操作。
NVIDIA Jetson & JetPack 全面解析：从硬件到定制镜像
Interview_TC的博客
08-09 980
摘要： 本文全面解析NVIDIA Jetson嵌入式AI平台，涵盖硬件架构（Tegra SoC集成CPU/GPU）、官方软件栈JetPack SDK（含L4T、CUDA等组件）及主流开发板（Nano/Orin系列）。重点对比JetPack成品镜像与基于Yocto的meta-tegra定制方案，阐明后者在硬件适配和系统裁剪中的优势，并提供定制流程建议（Yocto/Buildroot选型）。文章还列出官方资源入口，帮助开发者根据需求选择从原型开发到量产的适配路径，适用于机器人、工业检测等边缘AI场景。
嵌入式工程师必修课：打通 AI 与嵌入式的核心逻辑与实践
Interview_TC的博客
08-25 795
《嵌入式工程师必修课：打通AI与嵌入式的核心逻辑》一文探讨了AI与嵌入式系统的结合趋势。文章指出，嵌入式系统的本质在于资源有限、定制化强、贴近硬件，而AI与嵌入式结合可解决实时性、隐私安全和带宽成本问题。作者建议嵌入式工程师从模型部署与优化入手，推荐使用Jetson系列硬件平台进行实践，并提供了从基础到进阶的学习路线。核心观点是：嵌入式工程师无需成为算法专家，但需掌握驱动、系统、AI推理到应用的完整链路开发能力。文末推荐了相关书籍和学习资源。
Jetson嵌入式系列模型部署-3
周同学的博客
08-17 6538
Jetson嵌入式系列模型部署
Jetson 设备安装Jetpack组件
qq_43576725的博客
07-03 2245
例如用于构建、部署和扩展视觉 AI 应用程序的 Metropolis、用于构建高性能机器人应用程序的 Isaac 和用于构建高性能计算应用程序 （HPC） 的 Holoscan，以及具有从边缘到云的实时洞察力和传感器处理能力的 Holoscan。为 Jetson 模块提供支持的 NVIDIA JetPack SDK 是构建端到端加速 AI 应用程序的最全面的解决方案，可显著缩短上市时间。
jetpack 4.6 刷机 英伟达jetson agx Xavier 完整刷机记录
03-01
本文是关于如何使用NVIDIA JetPack 4.6对英伟达...刷机成功后，Jetson AGX Xavier将配备最新的JetPack 4.6，这包含了对深度学习、CUDA等模块的支持，使得开发者可以充分利用其强大的计算能力进行AI和嵌入式应用的开发。
NVIDIA Jetson AGX Xavier完整刷机指南：JetPack 4.6与DeepStream
对于使用英伟达Jetson AGX Xavier进行AI和嵌入式计算的开发者来说，这是一个必不可少的工具包。 在选择JetPack版本时，应确保该版本与你的硬件兼容，并考虑其对最新软件特性和性能的支持。JetPack 4.6是一个重要的...
【嵌入式AI应用打造秘籍】：Jetson NX开发实战精要
[【嵌入式AI应用打造秘籍】：Jetson NX开发实战精要](https://docs.nvidia.com/jetson/archives/r36.3/DeveloperGuide/_images/arch_graphic.png) # 摘要 本论文详细介绍了Jetson NX平台的特性、开发环境搭建、深度...
基于学习的人工智能（1）为什么学习？
致力于大数据+AI 的应用创新。
11-24 253
学习是人类最重要的认知活动之一，贯穿我们的一生。出生后，我们无时无刻不在学习：从父母那里学说话，自己尝试走路，从小伙伴那里学会折纸飞机，从老师那里学到语文、数学等各种知识。研究人员始终将光源和风扇放在同一侧，经由学习，玉米幼苗逐渐学会了“有风的地方就会有光”的规律。之后，研究人员移去光源，并改变风扇方向，玉米幼苗依然按照所学知识，向风扇方向生长。1959 年，美国计算机学家亚瑟·塞缪尔设计了一款可以自我学习的跳棋程序，并将这一新方法称为“机器学习”，从而开启了机器自我学习的道路。
三大空间信息焕新：辉视让酒店服务、教育通知、监所管控更智能高效
CalebLXL的博客
11-24 467
走访这些场所后我发现，系统的真正价值不在于那些炫目的屏幕，而在于它构建了一套"空间信息免疫系统"——就像人体淋巴网络般，能智能识别各区域的信息需求，精准输送"营养"，快速清除"毒素"。当我们在酒店大堂不再错过末班机场大巴，在学校走廊偶遇恰好需要的竞赛通知，甚至在高墙内获得规整的信息权时，或许该重新思考：所谓智能化，本质是对空间信息代谢效率的一次外科手术式改造。这种荒诞的割裂感，正是传统信息分发模式崩溃的缩影——直到我最近走访数家采用辉视系统的场所，才意识到我们早已进入"精准信息触达"的新纪元。
（116页PPT）关于5G和新基建赋能智慧工地整体解决方案（附下载方式）
最新发布
2501_92808811的博客
11-25 292
在整体架构方面，方案以“5G智慧工地平台”为核心，依托多类感知设备（如传感器、摄像头、AI眼镜、智能安全帽等）采集数据，通过5G网络实时回传至云平台，再借助大数据、云计算、人工智能等技术进行分析处理，最终在PC、手机、监控大屏等多终端进行可视化展示。此外，文件还详细列举了传统智慧工地子系统（如深基坑监测、升降机监控、扬尘噪音监测、智能水电计量等）的功能与部署方式，并补充了如5G企业专网、实测机器人、智慧科技体验中心等延伸应用，体现出方案的系统性与前瞻性。详细资料请看本解读文章的最后内容。
中国计算机学会（CCF）推荐学术会议-A（人工智能）：ACL 2026
iaast的博客
11-24 446
大会官网：https://2026.aclweb.org/录用率：20.3%（1699/8360，2025年）时间地点：2026年7月2日-加州·美国。截稿时间：2026年1月5日。CCF推荐：A（人工智能）
RAG 的诞生：为了让 AI 不再“乱编”
weixin_44876263的博客
11-24 460
RAG全称，中文为“检索增强生成”。其核心思想是：在生成答案时，不仅依赖大模型内部的训练知识，还能够实时访问外部知识库或文档，从而生成更加准确和可靠的内容。就像一个学生回答问题，不仅依靠自己记忆，还会去图书馆查资料，然后结合记忆和查到的资料回答问题。你问模型：“请告诉我最新的新能源补贴政策。纯模型可能只靠训练记忆，回答的是过时或模糊的信息。RAG 模型会先去查最新政策文件，再结合训练知识生成答案，因此更准确。检索资料：先找到相关文档或信息。结合生成：把找到的资料和问题一起输入模型，让模型生成答案。
基于华为开发者空间实现花卉识别
优快云高校俱乐部官方博客
11-21 1945
基于华为开发者空间实现花卉识别
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值