什么是TensorRT - 知乎

墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 300+累计阅读 306平均单平台已同步平台优快云微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网我也要 → 码龄19年

关注

转载最新推荐文章于 2026-09-24 19:11:37 发布 306 阅读 AI 写同款· GEO 优化 ›

【TensorRT】TensorRT的学习文章目录基于TensorRT的神经网络加速方法1 TensorRT介绍2. 加速方法基于TensorRT的神经网络加速方法我们计算了视网膜OCT成像中每张图像的采集速度约为0.0083s。这种微秒级的成像速度体现了OCT技术的实时成像特点。但当图像采集完成后，需要传输到计算机进行运动补偿、图像降噪。经过该过程后，上位机显示OCT图像的时间将会升高到秒级，甚至更长。目前，常用的运算加速方法是将程序移植到GPU的CUDA核心。但传统的运动补偿方法，存在步骤冗余、补偿精度低等问题，不能发挥出GPU的高并行运算阅读详情

什么是TensorRT - 知乎

收录于

C++

当前文章被收录于：

C++

91 篇文章 1 人学习

订阅专栏查看详情

GPU加速

当前文章被收录于：

GPU加速

1 篇文章 0 人学习

订阅专栏查看详情

当前文章被以下社区和专栏收录：

标签

#开发语言 #后端

原文链接：https://zhuanlan.zhihu.com/p/356072366>

jetson tx2 上部署TensorRT模型推理 1## 标题 jetson tx2 是什么？ jetson tx2简而言之就是阅读详情

相关推荐

TensorRT优化原理和TensorRT Plguin总结

文章目录1. TensorRT优化原理2. TensorRT开发基本流程3. TensorRT Network Definition API4. TensorRT Plugin4.1 实现plugin4.2 编译plugin.so动态库4.3 在TensorRT中加载plugin5. plugin实例 1. TensorRT优化原理 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接...

HanBlogs 1万+

TensorRT是如何做到架更快的？聊聊知乎还没人谈到的内核部分

作者|糯盐编辑| 极市平台原文链接：https://zhuanlan.zhihu.com/p/666638357点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群本文只做学术分享，如有侵权，联系删文导读文章总结了TensorRT工具链以及TensorRT后端优化流程。一. 是什么？2016年Nvidia为自家GPU加速推理而...

CV_Autobot的博客 442

TensorRT安装指南

目录前言摘要1. 概述2. 入门3. 下载TensorRT4. 安装TensorRT4.1. Debian 安装4.1.1. 使用NVIDIA机器学习网络Repo安装Debian4.2. RPM 安装4.2.1 使用NVIDIA机器学习网络Repo进行RPM安装4.3. Tar File安装4.4. Zip File 安装4.5. 其他安装方法5. 升级TensorRT5.1 Ubuntu和Windows用户5.1.1. 从TensorRT 6.x.x升级到TensorRT 7.x.x5.2. RedHat

Christo的博客 1万+

TensorRT 简介 - 知乎

studyvcmfc的专栏 168

C#上位机AI部署避坑指南：2025必知的5个优化技巧（含TensorRT加速实操）

工业AI部署痛点与优化方案工业AI部署常面临硬件差异、实时性不足和稳定性差等问题。针对C#上位机场景，提出5个关键优化技巧：模型量化与裁剪：通过INT4量化和剪枝压缩模型，减少内存占用70%以上； TensorRT加速：利用FP16/INT8优化，将推理速度提升2-5倍；内存管理：预加载模型至内存池，避免GC卡顿；跨硬件适配：动态检测CUDA环境，提供CPU/GPU双模式；异常处理：监控显存溢出，自动降级保障稳定性。实测表明，优化后YOLOv8n模型在1GB工控机上的推理延迟从500ms降至50

这里只有干货：从 Modbus 通信到 MES 对接，从 YOLO 训练到工控机部署，带你搞定工业软件开发全流程。 1073

【TensorRT】TensorRT环境安装

本文操作均在Win10系统上完成，需要用到的软件与依赖包有：cuda 10.2 , cudnn 8.6.5 , VS2017 , OpenCV 4.0.0 , Anaconda3 , CMake 3.10.1 , TensorRT 8，pytorch通过英伟达官网来确认显卡驱动与CUDA版本对应关系，，基本上所有的版本cuda都能支持通过pytorch官网来确认也可以通过pytorch官网查询选择cudnn版本时要优先考虑tensorrt版本。

浩瀚之水的专栏 5475

TensorRT是什么，有什么作用，如何使用

TensorRT 是由 NVIDIA 提供的一个高性能深度学习推理（inference）引擎。它专为生产环境中的部署而设计，用于提高在 NVIDIA GPU 上运行的深度学习模型的推理速度和效率。以下是关于 TensorRT 的详细介绍：TensorRT 是 NVIDIA 推出的用于深度学习推理加速的高性能推理引擎。它可以将深度学习模型优化并部署到 NVIDIA GPU 上，实现低延迟、高吞吐量的推理过程。TensorRT 主要用于加速实时推理任务，如物体检测、图像分类、自然语言处理等。

githubcurry，985cs博士在读 3万+

c#窗体应用(.NET Framework)项目对Yaml文件进行写入与读取，Yaml数据转换成json

用到的技术与版本准备工作Yaml数据在C#中进行定义对Yaml文件的读取与写入代码的添加窗体控件控制操作写入数据到Yaml文件读取Yaml文件数据Yaml数据转换成json改进——对yaml文件读取时根据yaml文件中的键进行获取，对c#中怎么取名字无关yaml文件中多个数据读取遇到的问题总结的小点参考的文章在对Yaml文件进行读取前，先将Yaml文件中的数据结构在c#中进行定义，以便后面更好的读取。这里对这四个类型进行举例(这里为了想看看这四个类型到Yaml文件的格式是什么样子的)

永远年轻 1587

C++深度模型部署bili视频的tensorrt onnx和知乎的libtorch

https://www.bilibili.com/video/BV1Xw411f7FW?p=2&spm_id_from=pageDriver 1 https://github.com/shouxieai/tensorRT_cpp 课程的onnx，官方维护 2 https://github.com/wang-xinyu/tensorrtx 3

weixin_44523062的博客 776

KMS服务器一键部署与激活实战指南

本文详细介绍了KMS服务器的一键部署与激活实战指南，包括快速入门、安装步骤、服务管理技巧及常见问题排查。特别针对Windows和Mac用户提供了Office激活的具体操作步骤，并分享了高级配置与优化方案，帮助IT管理员高效管理批量授权激活。

weixin_29305313的博客 461

更换光猫的原理与方法

当你给装维打电话说你需要更换光猫时，对于装维来说，他并不需要知道怎么更换，他只需要生成一张工单，由后台进行业务操作后，在去用户家把新光猫给装好即可，此时装维到底起到了什么作用呢？我想可能只是运输员吧，把一个设备从一个地方运到另一个地方罢了，此时并不能指望装维做什么，因为本质上来说装维的能力真的很差很差，我是不知道那些装维哪来的勇气做视频，还说自己什么什么能力很强？很强吗？吹牛的技术确实很强。更换光猫之前，需要先明白为什么要更换光猫，怎么更换光猫，更换后不能用怎么办？怎么才能更换成功，换光猫以后被限速了怎么

qq_34146290的博客 1万+

使用ONNX+TensorRT部署人脸检测和关键点250fps - 知乎

studyvcmfc的专栏 403

计算机图形学入门30：动画与模拟介绍

计算机图形学入门，动画与模拟，物理模拟，质点弹簧系统，运动学，粒子系统，动作捕捉。

YanisWu的博客 1485

TensorRT Model Optimizer常见问题解答：新手必知的10个关键知识点

TensorRT Model Optimizer是一个集成了量化和稀疏化等先进模型优化技术的统一库，它能为TensorRT-LLM或TensorRT等下游部署框架压缩深度学习模型，从而在NVIDIA GPU上优化推理速度。本文将解答新手在使用过程中最常见的10个关键问题，帮助你快速掌握这个强大工具的使用技巧。 ## 1. 什么是TensorRT Model Optimizer？它有什么核心功能？

gitblog_00747的博客 395

保姆级教程：用AI辅助反编译Python3.9+的EXE文件（兼容新版pycdc工具）

本文详细介绍了如何利用AI技术辅助反编译Python 3.9+的EXE文件，解决传统工具如uncompyle6无法处理新版字节码的问题。通过pycdc工具和AI大模型的结合，开发者可以高效还原代码逻辑，并提供了从EXE解包到字节码解析的完整流程，适用于逆向工程和代码分析场景。

hill8的博客 1223

【STM32】BLDC驱动&控制开发笔记 | 07_SPI通信测试 - STM32F407用SPI配置DRV8323驱动芯片

使用STM32F407的SPI通信功能配置DRV8323S驱动芯片的详细过程说明。

这里是 F菌的进阶之路。 6289

【Tensorrt】【笔记】转换及笔记

yolov5 转 tensorrt 成功示例

yongjie 336

28、解耦控制与晶圆表面缺陷模式识别

本文介绍了两种不同领域的技术方法：基于端口受控哈密顿（PCH）的三水箱液位系统解耦控制方法，以及基于无监督学习的晶圆表面缺陷模式识别方法。前者通过能量整形实现系统解耦与稳定控制，具有良好的抗干扰性和鲁棒性；后者采用无监督预训练与分类微调两阶段策略，利用WaUSM采样方法提升特征提取能力，在WM-811K数据集上实现了先进的分类性能。文章对比了两种方法的核心技术与优势，并探讨了其在工业控制与半导体制造中的应用前景及未来发展方向，为相关领域的研究与实践提供了有价值的参考。

git9versioner的博客 75

tensorrt安装_400 fps！CenterFace+TensorRT部署人脸和关键点检测

本文转载自知乎，为CenterFace原作者手把手教程，欢迎参考。https://zhuanlan.zhihu.com/p/106774468近来，很多人在使用tensorrt部署centerface遇到了各种问题，下面进行了一些解答：1) 版本：tensorrt 6.0.1+，python3.72) onnx模型转化为tensorrt格式。需要注意，repo里提供centerface....

weixin_39653733的博客 239

自然语言处理6 -- 情感分析

1 概述情感分析是自然语言处理中常见的场景，比如淘宝商品评价，饿了么外卖评价等，对于指导产品更新迭代具有关键性作用。通过情感分析，可以挖掘产品在各个维度的优劣，从而明确如何改进产品。比如对外卖评价，可以分析菜品口味、送达时间、送餐态度、菜品丰富度等多个维度的用户情感指数，从而从各个维度上改进外卖服务。情感分析可以采用基于情感词典的传统方法，也可以采用基于深度学习的方法，下面详细讲解 ...

谢杨易的博客 5万+

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

TensorRT详细入门指北，如果你还不了解TensorRT，过来看看吧

首发于TensorRT详细入门指北，如果你还不了解TensorRT，过来看看吧！，最新回复以及交流请看这里~ 前言大名鼎鼎的TensorRT有多牛逼就不多说了，因为确实很好用。作为在英伟达自家GPU上的推理库，这些年来一直被大力推广，更新也非常频繁，issue反馈也挺及时，社区的负责人员也很积极，简直不要太NICE。只是TensorRT的入门门槛略微高一点点，劝退了一部分玩家。一部分原因是官方文档也不够详细(其实也挺细了，只不过看起来有些杂乱)、资料不够；另一部分可能是因为TensorRT比较底层，需

老潘的博客 4万+

OV9734 DATASHEET，完整规格书

OV9734完整规格书，包括电气参数，尺寸规格，寄存器配置表等

TensorRT7 + Onnx_TensorRT 安装过程记录

TensorRT + Onnx_TensorRT 安装步骤我个人是将TRT和Onnx_TensorRT安装在docker的container中，因为云都是提供的docker环境，实际使用起来跟一般没有区别安装TensorRT 依照CUDA版本下载相对应的CUDNN 下载对应cuda版本的cudnn tar -xvzf cudnn-10.0-linux-x64-v7.6.5.32.t...

史蒂夫方 1万+

IEM模型，地表粗糙度模拟

利用微波反演土壤水分时候，利用IEM模型可以实现对随机地表的模拟

复分析阿尔福斯(Ahlfors) 第三版答案英文

答案分为十章，有部分习题没有答案，全英文复分析阿尔福斯(Ahlfors) 第三版答案

TensorRT的安装教程

本文介绍了在Windows和Ubuntu 20.04系统下安装TensorRT的方法，以及将.onnx文件转换为.engine文件的操作步骤。

m0_63327786的博客 8915

TensorRT Model Optimizer高级技巧：自定义量化策略与性能调优指南

TensorRT Model Optimizer是一款强大的深度学习模型优化工具库，提供了量化、稀疏化等前沿优化技术，能够为TensorRT-LLM或TensorRT等下游部署框架压缩模型，从而在NVIDIA GPU上实现推理速度的显著提升。本文将深入探讨如何利用该工具实现自定义量化策略与性能调优，帮助开发者充分发挥模型在生产环境中的潜力。 ## 量化策略基础：从配置到实践量化是模型优化的核

gitblog_00977的博客 428

TensorRT安装及使用教程

TensorRT 安装方法

ZONGXP的博客 18万+

【TensorRT C++ API模型加速】TensorRT环境配置、模型转换、CUDA C++加速、TensorRT C++ 加速

TensorRT（Tensor Runtime，TRT）：由 NVIDIA 开发，专为 NVIDIA GPU 设计的，用于深度学习高性能推理的SDK （software development kit ，软件开发工具包），可为推理应用程序提供低延迟和高吞吐量。

📷 图像处理践行者 | 传统算法 · 深度学习 · 多模态 | 分享实战经验与技术洞见，探索从像素到智能的无限可能。 2880

上一篇：使用ONNX+TensorRT部署人脸检测和关键点250fps - 知乎

下一篇： onnx是什么转

TensorRT优化原理和TensorRT Plguin总结

HanBlogs

10-24