MaskRCNN+TensorRT在Jetson Xavier NX上的测速

最新推荐文章于 2025-10-20 13:37:24 发布
原创 最新推荐文章于 2025-10-20 13:37:24 发布 · 2.2k 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#MaskRCNN #TensorRT #Xavier NX #Jetpack #NVIDIA

本文给出原创测试结果，基本配置为CUDA10.2、CUDNN 8.0、TensoRT 7.1和Jetpack 4.4。展示了MaskRCNN、FasterRCNN等模型结合TensorRT或pytorch在Jetson tx2、Jetson Xavier、Jetson Xavier NX等开发板上的测速情况。
部署运行你感兴趣的模型镜像

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch 2.5

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

NVIDIA之Jetson参数对比
ZONGXP的博客
08-13 1万+
nvidia jetson 设备参数
Nvidia Agx Xavier平台10Gb PCIE网卡速度限制为1Gb问题调试记录
jzwjzw19900922的博客
01-17 2081
1. 背景 Xavier的PCIe插槽安装了一个10Gb以太网卡。 当运行速度超过1Gb/秒时，大量数据包被丢弃。 Netstat确认接口丢弃的数据包。 系统似乎已经将卡标识为10Gb，但在1Gb时出现了瓶颈。 SDK版本：Jetpack 4.1 软件： 无线电制造商提供的基准I/O例程，使用的是Intel X520-DA2卡； 两个GbE接口的ethtool输出显示固件版本为0x61c10001，驱动版本为ixgbe 4.6.4 2. 节点调试 ifconfig output:
Jetson系列配置对比——Nano、TX1、TX2、AGX Xavier、Xavier NX
mathlxj的博客
11-17 2万+
Jetson开发板测速结果 1.MaskRCNN+TensorRT在Jetson tx2上的测速 2.FasterRCNN+TensorRT在Jetson TX2上测速 3.MaskRCNN+TensorRT在Jetson Xavier上的测速 4.pytorch+FasterRCNN在Jetson Xavier上的测速 5.MaskRCNN+TensorRT在Jetson Xavier NX上的测速 6.pytorch+FasterRCNN在Jetson Xavier NX上的测速 ...
深度学习篇---TensorRT
最新发布
道阻且长，行则将至。
10-20 810
TensorRT是NVIDIA为JetsonNano等边缘设备开发的AI推理加速引擎，可将训练好的模型优化为更快、更省电的版本。它通过合并冗余计算、适配GPU指令集和压缩参数精度（支持FP16/INT8），使模型推理速度提升2-10倍，内存占用降低50%以上。使用流程简单：将PyTorch/TensorFlow模型转为ONNX格式，通过trtexec工具生成.engine文件，最后调用Python API实现加速推理。
jetson系列硬件性能对比
GeekPlusA的博客
06-25 1975
参考:Jetson Modules https://developer.nvidia.com/embedded/jetson-modules 第一种 4G 价格 1000元 1x 4K30 2x1080p60 4x1080p30 4x720p60 9x720p30 (H.265 & H.264） 第二种 8G 价格3700元 2x 4K30 6x 1080p60 14x 1080p30 (H.265 & H. 264) 第三种 32-64G 价格7000元 4x 4K60 8x 4
Jetson Xavier、Jetson TX2、 1080(Ti)、2080显卡运行深度学习模型性能对比（英伟达开发平台VS常用显卡）
热门推荐
herr_kun的博客
02-25 4万+
前言：         英伟达的Jetson TX2使得很多人认为深度学习模型终于可以像嵌入式开发平台那样做到小型化了，不用再跑在高配计算机或者服务器上面了，但是实际上Jetson TX2开发板的性能和深度学习常用到的1080(Ti)以及2080 还有一定的差距，接下来英伟达又出了一个Jetson Xavier，可以说是Jetson TX2的升级版，性能自然是强了很多，并且个人很喜欢的是英伟达把...
Jetson 对比
望那伊人的博客
09-12 1182
Jetson Nano TX1 TX2 Xavier The Jetson line of embedded Linux AI and computer vision compute modules and devkits from NVIDIA: Jetson TK1: single-board 5" x 5" computer featuring Tegra K1 SOC (quad-core 32-bit Cortex-A15 + 192-core Kepler GPU), 2GB DDR3, a
FasterRcnn在Jetson TX2上测速
mathlxj的博客
06-14 1965
博主测试了在不同模式、精度下将FasterRCNN部署到Jetson TX2上的测速结果，与大家分享讨论。 对于MaskRCNN的部署结果可参见:MaskRCNN在Jetson tx2上的测速结果 使用的Caffe版本FasterRcnn框架:rbgirshick/py-faster-rcnn 参考的TensorRT代码:sampleFasterRCNN TensorRT版本: 6.0.1.0 JetPack版本:4.3 表1 Fasterrcnn+TensorRT在Jetson TX2上测速结果
(亲测有效)paddledetection在Jetson上的编译指南
weixin_43917589的博客
01-27 3882
本文档是在NVIDIA Jetson Xavier NX (Jetpack的版本为4.4.1)上部署PaddleDetection的c++推理教程。 Jetpack 4.4.1的环境配置为： CUDA 10.2 cuDNN 8.8.0 1. 获取部署代码 笔者下载的是2.3版本。 下载链接如下：https://github.com/PaddlePaddle/PaddleDetection.git 2. 下载paddle_inference预测库，下载链接如下：https://paddleinference.
主流边缘端部署嵌入式平台
qq_41883755的博客
01-29 2698
主流边缘端部署嵌入式平台 文章目录引言RK1808RK1808人工智能计算棒RK1808芯片架构优势极致低功耗强大AI运算能力面向AIoT应用的丰富接口易于开发RK1808具体的规格信息RK1808测评NVIDA Jetson Nano、 tx1/2、Xavier测评规格参数优势树莓派3/4测评规格参数总结 引言 AIoT开启了继物联网、人工智能后又一大想象无限的领域，同时也给智慧物联、人工智能在应用层面拓展更多可能性开启新的篇章。边缘计算对势头正盛的物联网的发展至关重要。近日，机器学习和数据科学咨询公司
YOLOv8后处理简化指南+交通实战：车辆计数+闯红灯识别（附TensorRT加速部署代码）
专注于Python爬虫开发，分享爬虫技巧、项目实战与反爬经验，使用Scrapy、BeautifulSoup等工具，解决数据抓取难题。
10-17 231
本文提出5种YOLOv8后处理优化方法，针对交通场景实现实时处理。通过合并解码与坐标映射、优化NMS、提前置信度过滤、简化结果格式和批量处理，将后处理效率提升20%-60%。在路口监控应用中，结合TensorRT加速，实现车辆双向计数和闯红灯识别功能，达到30FPS实时性能。实验表明，优化后处理流程在保证精度的同时显著降低延迟，满足交通监控实时性需求。
Jetson TensorRT-SLA.pdf
03-17
Jetson TensorRT-SLA.pdf
NVIDIA Jetson 系列模块性能算力对比
qq_43298381的博客
12-01 2万+
在AI 推理和边缘计算中表现更强，而GTX 1050是一款面向桌面使用的消费级显卡，主要用于图形和游戏处理。如果你的目标是进行深度学习推理或嵌入式应用是更好的选择。如果你关注的是图形渲染和游戏性能GTX 1050更为合适。单纯从算力角度比较和GTX 1050，那么我们可以专注于它们的AI 推理能力和GPU 性能。如果只看算力提供的是100 TOPS的AI 推理性能，而GTX 1050提供的是2.1 TFLOPS的浮点计算性能。因此，Orin NX在AI 推理。
我的AI之路(31)--在Jetson Nano上试验安装部署py-faster-rcnn
XCCCCZ的博客
07-13 3483
想试验英伟达的Jetson序列套件或者其他公司的类似边缘计算开发板能否跑我们的模型并部署到机器人上，于是买了块今年上市的Jetson Nano板子和一张64G的SD卡。 首先要到英伟达的网站https://developer.nvidia.com/embedded/downloads点击Jetson Nano Developer Kit SD Card Image然后...
NVIDIA Jetson不同系列对比
qq_30150579的博客
02-17 5089
NVIDIA Jetson不同系列对比
Nvidia Jetson TX2 运行Faster RCNN物体检测demo
sinat_20350479的博客
11-13 6999
实验室新入手了Nvidia的Jetson TX2，Ubuntu14.04+cudnn5.1+Cuda8.0+caffe运行faster rcnn的物体检测demo 先来介绍一下我们的环境，板子具体的配置过程就不再细讲，我配的是Ubuntu 14.04+cuda8.0+cudnn5.1，这里要开始画重点啦，
大模型性能全面对决，Jetson上系列产品哪款最强？
MIIVII_2015的博客
02-28 947
随着模型规模的增加，如何在资源受限的环境中运行这些高性能模型成为了一个挑战。边缘计算设备，如Nvidia Jetson系列，提供了一种在接近数据源的地方进行高效计算的方法，它们能够支持在不依赖云中心的情况下进行实时数据处理和决策。这为大模型的部署提供了新的机遇，尤其是在需要快速响应和处理能力的应用场景中，如自动驾驶、远程监控和智能城市。
NVIDIA Jetson AGX Orin比Jetson AGX Xavier到底贵在哪里？
jzwjzw19900922的博客
04-15 6415
NVIDIA Jetson AGX Orin开发套件的官方价格为1999美金，而三年前发布的Jetson AGX Xavier开发套件的官方价格为899美金（现在已经停产买不到了），很多用户说居然贵了这么多，到底贵在哪里了? 今天Lady在网上发现了一篇评测文章，我就翻译节选了发在这里供大家参考。 文章的原文是—— 是由SmartCow公司发布，这是一家人工智能工程公司，专门从事高级视频分析、应用人工智能和电子制造，成立于 2016 年。 该公司表示—— 在整篇文章中，我..
nvidia jetson xavier nx与agx xavier和tx2对比
qq_18276949的博客
06-06 9887
1、性能比AGX xavier低，但体积更小（nx为70 x 45 mm，AGX xavier为100 x 87 mm） 2、性能是TX2的10倍 3、安装ubuntu系统 https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-xavier-nx/?ncid=so-infl-66910#cid=_so-infl_en-us https://baijiahao.baidu.com/s?id=16682...
Jetson Xavier NX上的实时遮罩检测教程与部署指南
5. **软件包安装**: 在Jetson Xavier NX上部署深度学习模型，需要安装包括TensorFlow、PyTorch、ONNX和TensorRT等在内的多种软件包。这些软件包是深度学习框架和模型优化工具的集合，能够帮助开发者将训练好的模型...
评论 6
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值