Jeston nano 部署yolov5并使用tensorrt加速-极速版-（先进视觉赛）v2

原创 已于 2025-07-01 16:30:07 修改 · 2k 阅读 · 56 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#YOLO #目标检测

于 2024-05-14 00:26:42 首次发布
该文章已生成可运行项目，
本文章已经生成可运行项目
最低0.47元/天 解锁文章
Jetson nano部署yolov5
magicnnonn的博客
04-01 1654
亲测Jetson nano部署yolov5，一步到位。
NVIDIA Jetson YOLOv5 tensorRT部署和加速 C++版
黎国溥
05-12 8314
前言 在实现NVIDIA Jetson AGX Xavier 部署YOLOv5的深度学习环境，然后能正常推理跑模型后；发现模型速度不够快，于是使用tensorRT部署，加速模型，本文介绍C++版本的。 NVIDIA Jetson YOLOv5应用与部署_一颗小树x的博客-优快云博客 版本介绍：yolov5 v6.0、tensorrtx；Jetpack 4.5 [L4T 32.5.0]、CUDA: 10.2.89。 我测试了 kitti 数据集的100张图片：加速后每一张图像，平均推理时间是22ms
Jetson Nano B01部署YOLOv5项目全流程（五）TensorRT加速配置
人工智能
08-22 2428
五、TensorRT加速配置，主要包含Pycuda安装以及TensorRT加速。这里我们用自己的项目为例，使用YOLOv5自带的export.py文件进行engine文件转换，实现给自己的模型加速。
深度学习篇---TensorRT
最新发布
道阻且长，行则将至。
10-20 933
TensorRT是NVIDIA为JetsonNano等边缘设备开发的AI推理加速引擎，可将训练好的模型优化为更快、更省电的版本。它通过合并冗余计算、适配GPU指令集和压缩参数精度（支持FP16/INT8），使模型推理速度提升2-10倍，内存占用降低50%以上。使用流程简单：将PyTorch/TensorFlow模型转为ONNX格式，通过trtexec工具生成.engine文件，最后调用Python API实现加速推理。
Jetson Nano 部署(5):: Jetson Nono YOLOv5实战部署流程
@bangbang的博客
08-19 3966
这个目录下，它是可以支持Yolov2,Yolov3,Yolov2-tiny,Yolov3-tiny的一些测试，也就是说DeepStream已经内在支持了Yolov2,Yolov3,Yolov2-tiny,Yolov3-tiny的部署。开发版相连的键盘、鼠标以及显示器，而是在别的电脑上可以远程去Nano开发版进行操作，这样的话，就可以非常方便的开发。要登录开发板的话，需要知道开发版的IP地址，通过Nano开发版相连的键盘，通过。可以在自己本地电脑远程操作开发版的界面，这样会更方便开发。
Jetson Nano部署YOLOv5与Tensorrtx加速
君莫笑的博客
12-01 6771
Jetson Nano部署YOLOv5与Tensorrtx加速
jetson nano部署yolov5
a1691125058的博客
07-09 5780
记录下，这一学期踩的坑，总结出来的经验
Jetson nano上部署自己的Yolov5模型（TensorRT加速）
热门推荐
ailaier的专栏
04-30 3万+
背景 在主机上训练自己的Yolov5模型，转为TensorRT模型并部署到Jetson Nano上，用DeepStream运行。 硬件环境： RTX 2080TI主机 Jetson Nano 4G B01 软件环境： Jetson Nano: Ubuntu 18.04 Jetpack 4.5.1 DeepStream 5.1 主机： Ubuntu 18.04 CUDA 10.2 yolov5 5.0 训练模型（主机上） yolov5项目链接https://github.com/
jetson nano的yolov8的tensorrt加速部署
m0_49586319的博客
11-17 2290
yolov8在jetson nano平台的tensorrt部署，帧率到19帧。
精选资源
跟踪算法部署-使用TensorRT加速YOLOv5+deepsort在Jetson-NX上的加速部署-项目实战-超优质项目
10-16
通过TensorRT加速YOLOv5+deepsort的集成，可以实现在Jetson-NX上的高效目标检测和跟踪。 本项目实战教程详细介绍了如何将YOLOv5和deepsort集成到一个跟踪系统中，并利用TensorRT进行优化。教程的每个步骤都被精心...
YoloV5在Jenson nano 上的部署
2301_80288986的博客
12-03 1777
（1）由于英伟达官方指定的服务器默认的源是在国外，通常下载东西十分缓慢为了加快下载各种包的速度要做的事情，第一步我们需要进行镜像源的更换，我们可以使用清华源或者其他的国内源如阿里云的源，中科大的源等等。注意我们要弄清楚我们Jenson nano开发套件的版本型号，我使用的是Jenson nano 2GB版本的，因此下载对于的版本镜像就好。确定好我们的cuda的版本，在添加环境变量的时候，经常因为出现版本不匹配的情况导致配置无法进行，输入以下指令查看Cuda的版本。打开我们的终端，输入以下的指令。
Jetson Nano部署yolov5
m0_67487238的博客
09-30 1993
1.2、在最后添加下方代码 1.3、应用修改完的配置 1.4、检查是否配置成功 3、配置需要用到的库 4、安装所需要的依赖环境 5、安装opencv的系统及依赖,一些编解码的库 6、更新CMake 7、安装pytorch 如果Linux系统安装不了百度网盘的话，可以用网页微信传输pytorch压缩包。 7.2 安装 路径的话直接从文件夹拖到Terminal就行，会自动写入地址。 8、安装torchvision 0.9.0 注意：要和
jetson nano 运行 yolov5 ( tensorRT 加速， FPS＞25)
delpanz的博客
10-09 7613
jetson nano 运行 yolov5， FPS>25
【超详细】在Jetson Nano中部署YOLOV5 + 源码解读 + 修改detect.py加入UART串口收发功能
onetwothree_go的博客
04-29 1万+
在Jetson Nano中部署YOLOV5 + 源码解读 + 修改detect.py加入UART串口收发功能 提示：这篇文章非常基础，适合像我一样还在摸索中的新手学习。当然，文章中也很可能出现很多错误，烦请各位大佬批评指正。 文章目录在Jetson Nano中部署YOLOV5 + 源码解读 + 修改detect.py加入UART串口收发功能前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结 前言 由于项目需要，本人从Yolov3开始首次接触到目标检测神经网络，短短两年的时间里，目标检测
jetson nano配置yolov5（超详细）
educth的博客
05-24 7353
本文是本人经过无数踩坑之后做出的总结。
jetson nano 6 TensorRT部署YOLOV5
weixin_48057700的博客
12-15 2957
jetson tesorRT部署yolov5
Jetson nano搭载YOLOv5
j556677的博客
09-16 1937
安装记录
Jetson nano跟着教程无脑部署YOLOV5
weixin_64632926的博客
10-31 3273
无脑跟着教程走，非常详细
Jetson Nano--YoLoV5测试运行--记录
ssunshining的博客
05-22 1965
一、镜像烧录： 官方镜像文件地址： Jetson Download Center | NVIDIA Developer 我选择的是4.6.1版本： 官方zip地址：https://developer.download.nvidia.cn/embedded/L4T/r32_Release_v7.1/JP_4.6.1_b110_SD_Card/Jeston_Nano/jetson-nano-jp461-sd-card-image.zip?0BuIlHOrU40zizluGaGPHJWzeFxUh7h5z
Jeston nano部署自己训练yolov8的模型使用TensorRT加速之后呢
07-24
为了在Jetson Nano上部署自定义训练的YOLOv8模型并使用TensorRT加速推理，需要经过模型导出、环境配置、推理部署等步骤。以下是详细的流程： ### 1. 模型导出为ONNX格式 YOLOv8的PyTorch模型（.pt文件）需要先转换为ONNX格式，以便TensorRT能够处理。可以使用Ultralytics官方提供的导出脚本进行转换。 ```bash yolo export model=yolov8n.pt format=onnx opset=13 ``` 执行完成后，会生成一个`yolov8n.onnx`文件，这是用于后续转换的中间表示文件。 ### 2. 安装必要的依赖 确保Jetson Nano上已安装以下组件： - JetPack SDK（包含CUDA、cuDNN和TensorRT） - ONNX解析器支持（如`onnx-tensorrt`） - Python环境及相关库（如`ultralytics`, `onnx`, `tensorrt`） 安装Ultralytics YOLOv8相关依赖： ```bash pip install ultralytics ``` ### 3. 使用TensorRT优化ONNX模型 TensorRT支持通过`trtexec`工具将ONNX模型转换为优化的引擎文件（.engine）。执行以下命令进行转换： ```bash trtexec --onnx=yolov8n.onnx --saveEngine=yolov8n.engine --fp16 ``` 其中`--fp16`参数启用半精度加速，适用于Jetson Nano这类嵌入式设备[^1]。 ### 4. 编写推理代码 使用Python或C++编写推理代码加载TensorRT引擎并执行推理。以下是一个Python示例： ```python import tensorrt as trt import pycuda.driver as cuda import pycuda.autoinit import numpy as np TRT_LOGGER = trt.Logger(trt.Logger.WARNING) with open("yolov8n.engine", "rb") as f, trt.Runtime(TRT_LOGGER) as runtime: engine = runtime.deserialize_cuda_engine(f.read()) with engine.create_execution_context() as context: inputs, outputs, bindings, stream = [], [], [], cuda.Stream() for binding in engine: size = trt.volume(context.get_binding_shape(binding)) dtype = trt.nptype(engine.get_binding_dtype(binding)) host_mem = cuda.pagelocked_empty(size, dtype) device_mem = cuda.mem_alloc(host_mem.nbytes) bindings.append(int(device_mem)) if engine.binding_is_input(binding): inputs.append({'host': host_mem, 'device': device_mem}) else: outputs.append({'host': host_mem, 'device': device_mem}) # 假设输入为(1, 3, 640, 640) np.random.seed(42) inputs[0]['host'][:] = np.random.rand(3, 640, 640).ravel().astype(np.float32) # 执行推理 [cuda.memcpy_htod_async(inp['device'], inp['host'], stream) for inp in inputs] context.execute_async_v2(bindings=bindings, stream_handle=stream.handle) [cuda.memcpy_dtoh_async(out['host'], out['device'], stream) for out in outputs] stream.synchronize() # 输出结果处理 print(outputs[0]['host']) ``` ### 5. 测试与性能优化 在Jetson Nano上运行推理代码时，建议开启FP16精度和INT8量化以提升性能。同时，合理设置输入分辨率（如640x640）以平衡精度与速度。可以使用`trtexec`进行基准测试： ```bash trtexec --loadEngine=yolov8n.engine --int8 --verbose ``` ### 6. 常见问题处理 - **内存不足**：尝试降低输入分辨率或使用更小的模型（如YOLOv8n）[^2]。 - **TensorRT版本不兼容**：确认TensorRT版本与JetPack SDK兼容。 - **模型转换失败**：检查ONNX算子是否被TensorRT支持，必要时可使用`onnxsim`简化模型。 ---
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值