conda环境下tensorrt安装

最新推荐文章于 2025-09-16 03:14:21 发布
原创 最新推荐文章于 2025-09-16 03:14:21 发布 · 6.7k 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习

创建conda环境

conda create -n tensorrt python=3.5

下载tensorrt
登录：https://developer.nvidia.com/tensorrt
进入：https://developer.nvidia.com/nvidia-tensorrt-7x-download
在Tar File Install Packages For Linux x86下，选择
TensorRT 7.0.0.11 for Ubuntu 16.04 and CUDA 10.0 tar package
下载获取的文件TensorRT-7.0.0.11.Ubuntu-16.04.x86_64-gnu.cuda-9.0.cudnn7.6.tar.gz

requirements.txt

numpy==1.13.1
pyasn1===0.4.6
six==1.10.0
opencv-python==4.4.0.42
pillow==4.1.1
torch==0.4
importlib-metadata

cuda版本9.0，cudnn版本7.6.5。cudnn版本不对，会出现tenssorrt中调用的函数，在cudnn中未定义错误。
安装


                

                
                
        

    


  


        

            

                      
                        最低0.47元/天 解锁文章
                          
                      
            

        


    



                



	

		

			

				
					
【TensorRT】TensorRT环境安装

				
			

			

				

					浩瀚之水的专栏
				

				

					10-11
					
					5086
					
				

			

		

		

			
				
本文操作均在Win10系统上完成，需要用到的软件与依赖包有：cuda 10.2 , cudnn 8.6.5 , VS2017 , OpenCV 4.0.0 , Anaconda3 , CMake 3.10.1 , TensorRT 8，pytorch通过英伟达官网来确认显卡驱动与CUDA版本对应关系，，基本上所有的版本cuda都能支持通过pytorch官网来确认也可以通过pytorch官网查询选择cudnn版本时要优先考虑tensorrt版本。

			
		

	



                

            
              



	

		

			

				
					
tensorrt的安装和使用

				
			

			

				

					zhuikefeng的博客
				

				

					09-21
					
					3780
					
				

			

		

		

			
				
提前安装好和，登录 NVIDIA 官方网站下载和主机 CUDA 版本适配的 TensorRT 压缩包即可。以 CUDA 版本是 10.2 为例，选择适配 CUDA 10.2 的。

			
		

	



              


  
              

                


	

		

			

				
					
TensorRT安装指南

				
			

			

				

					Christo的博客
				

				

					03-01
					
					1万+
					
				

			

		

		

			
				
目录前言摘要1. 概述2. 入门3. 下载TensorRT4. 安装TensorRT4.1. Debian 安装4.1.1. 使用NVIDIA机器学习网络Repo安装Debian4.2. RPM 安装4.2.1 使用NVIDIA机器学习网络Repo进行RPM安装4.3. Tar File安装4.4. Zip File 安装4.5. 其他安装方法5. 升级TensorRT5.1 Ubuntu和Windows用户5.1.1. 从TensorRT 6.x.x升级到TensorRT 7.x.x5.2. RedHat

			
		

	





	

		

			

				
					
飞桨模型库分布式推理方案：TensorRT-LLM在大模型部署的性能优化

				
			

			

				

					gitblog_00126的博客
				

				

					09-16
					
					1104
					
				

			

		

		

			
				
你是否正面临大模型推理时的算力瓶颈？当模型参数量突破百亿甚至千亿级别，单卡GPU已难以承载实时推理需求。本文将系统介绍基于TensorRT-LLM（TensorRT Large Language Model）的飞桨模型库分布式推理方案，通过工程实践详解如何将ERNIE-3.0等大模型的推理延迟降低75%、吞吐量提升4倍，同时保持99.9%的精度一致性。

读完本文你将掌握：
- 飞桨模型库分布式推...

			
		

	



		

			
		



	

		

			

				
					
conda 安装 tensorrt8

				
			

			

				

					shi_xin的专栏
				

				

					10-18
					
					4733
					
				

			

		

		

			
				
conda 安装 tensorrt，目前官网推荐最新的tensorrt8. 最新的tensorrt8，在conda环境下安装，并不复杂。

官网：github

官网推荐环境：


TensorRT GA build

    TensorRT v8.2.0.6

System Packages

    CUDA
        Recommended versions:
        cuda-11.4.x + cuDNN-8.2
        cuda-10.2 + cuDNN-8.2
    G

			
		

	





	

		

			

				
					
win10系统，anaconda虚拟环境安装tensorrt（自用）

				
			

			

				

					weixin_42283539的博客
				

				

					08-22
					
					831
					
				

			

		

		

			
				
anaconda虚拟环境安装tensorrt

			
		

	





	

		

			

				
					
Ubuntu18.04 conda环境中配置tensorrt,并安装torch2trt，如何将pytorch模型转换成tensorrt

				
			

			

				

					ygfrancois的博客
				

				

					03-02
					
					3422
					
				

			

		

		

			
				
安装tensorrt

conda create --name tensorrt python=3.7
conda activate tensorrt
官网下载TensorRT-7.0.0.11.Ubuntu-18.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz（注意要先下载tensorrt，根据tensorrt的版本来设置cuda和cudnn的版本）
pip install pytorch1.6.0 torchvision0.7.0
conda install cudato

			
		

	





	

		

			

				
					
Windows+conda+TensorRT

				
			

			

				

					锁我喉是吧
				

				

					03-06
					
					1463
					
				

			

		

		

			
				
Windows10+conda+TensorRT
FileNotFoundError: Could not find: cublas64_11.dll. Is it on your PATH?

			
		

	





	

		

			

				
					
Windows+Anaconda配置TensorRT环境

				
			

			

				

					m0_74137224的博客
				

				

					04-24
					
					1537
					
				

			

		

		

			
				
本文主要记录一下在windows+Anaconda配置TensorRT的教程，通过此教程配置完TensorRT后，可以在Anaconda的虚拟环境内使用TensorRT。Anaconda已经事先安装好了。

			
		

	





	

		

			

				
					
windows上使用anconda安装tensorrt环境

				
			

			

				

					shilichangtin的博客
				

				

					01-26
					
					2748
					
				

			

		

		

			
				
windows上使用anconda安装tensorrt环境

			
		

	





	

		

			

				
					
windows11下安装Tensor RT，并在conda虚拟环境下使用

				
			

			

				

					qq_42681787的博客
				

				

					11-23
					
					2468
					
				

			

		

		

			
				
windows11下安装Tensor RT，并在conda虚拟环境下使用

			
		

	





	

		

			

				
					
TensorRT安装

				
			

			

				

					12-21
				

			

		

		

			
				
TensorRT安装以及相关配置
看到很多tensorrt安装教程有一些问题,所以我安装完后写这篇记录并分享一下.
1.下载tar包
TensorRT官方API提供了四种安装方式，建议下载tar包进行安装。下载地址https://developer.nvidia.com/tensorrt

2. 安装TensorRT
2.1 解压
tar xzvf TensorRT-6.0.1.5..-gnu.cuda-10.1.cudnn7.x.tar.gz
2.2 添加环境变量
$ vim ~/.bashrc # 打开环境变量文件
# 将下面三个环境变量写入环境变量文件并保存
export LD_LIBR

			
		

	





	

		

			

				
					
TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )

					
热门推荐

				
			

			

				

					JianguoChow的博客
				

				

					04-02
					
					1万+
					
				

			

		

		

			
				
本文主要记录一下，windows+Anaconda配置TensorRT的教程，通过此教程配置完TensorRT后，可以在Anaconda的虚拟环境内使用TensorRT

注意：本文背景环境为Windows 10 和 Anaconda已经安装好，若没有安装好，可以参考之前的一篇文章 点击这里进行跳转，里面记录了Anaconda的相关教程

一、创建虚拟环境

进入conda命令控制台，进入方法如下图所示





输入以下指令


conda create -n tensorrt python=3.8

输

			
		

	





	

		

			

				
					
Tensorrt安装及分类模型tensorrt推理，并生成混淆矩阵

				
			

			

				

					qq_44908396的博客
				

				

					11-08
					
					852
					
				

			

		

		

			
				
分类模型使用tensorrt推理，包括tensorrt安装及推理

			
		

	





	

		

			

				
					
ubuntu20.04显卡驱动cuda cudnn conda TensorRT安装及配置

				
			

			

				

					h904798869的博客
				

				

					07-14
					
					1万+
					
				

			

		

		

			
				
ubuntu20.04显卡驱动 cuda cudnn conda TensorRT安装及配置， 包含显卡驱动安装前禁用核显；conda和pip换源，TensorRT安装

			
		

	





	

		

			

				
					
conda 安装 tensorrt7 tensorflow1.15

				
			

			

				

					shi_xin的专栏
				

				

					10-19
					
					720
					
				

			

		

		

			
				
当运行tensorrt中的sample时，发现居然需要tensorflow是1.15...

1.创建新的conda环境


conda create -n tensorrt_tf1.15 python=3.6


conda acitvate tensorrt_tf1.15

2.安装cuda、cudnn、tf1.15


conda install cudatoolkit=10.0.130 -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/fre

			
		

	





	

		

			

				
					
ubuntu安装完tensorrt后在conda虚拟环境调用

				
			

			

				

					李昂的博客
				

				

					08-16
					
					859
					
				

			

		

		

			
				
查找了相关资料使用tar的方式安装tensorrt后，如果要在虚拟环境中调用tensorrt需要将python中的dist-packages中的tensorrt文件复制到虚拟环境下的site-packages。但是在虚拟环境中import tensorrt后显示ModuleNotFoundError: No module named ‘tensorrt’，print(tensorrt)模块也找不到。使用tar的方式安装完tensorrt后系统的python下调用tensorrt 输出版本号正常。...

			
		

	





	

		

			

				
					
conda创建的虚拟环境tensorrt安装

					
最新发布

				
			

			

				

					12-02
				

			

		

		

			
				
<think>
我们参考了多个引用，其中引用[2]提供了在conda虚拟环境中使用pip安装TensorRT的方法，并验证安装成功的步骤。
 另外，引用[1]提到了一种方法：将系统Python的dist-packages中的tensorrt复制到虚拟环境的site-packages中，但这种方法可能不如使用pip安装方便。

 因此，我们推荐使用pip安装方法，具体步骤如下：

 1. 激活conda虚拟环境。
 2. 安装nvidia-pyindex，这是NVIDIA的Python包索引。
 3. 使用pip安装nvidia-tensorrt。

 验证安装：
 在Python环境中导入tensorrt并打印版本，同时尝试创建一个Builder对象（需要确保有可用的CUDA环境）。

 注意：安装TensorRT需要与系统中已安装的CUDA版本匹配。请提前确认CUDA版本，并选择对应的TensorRT版本。

 详细步骤：
 步骤1：激活conda虚拟环境
     conda activate your_env_name

 步骤2：安装nvidia-pyindex
     python -m pip install nvidia-pyindex

 步骤3：安装TensorRT
     python -m pip install --upgrade nvidia-tensorrt

 步骤4：验证安装
     启动Python，执行：
        import tensorrt
        print(tensorrt.__version__)
        assert tensorrt.Builder(tensorrt.Logger())

 如果以上步骤没有报错，则安装成功。

 另外，引用[3][4][5]提到在Windows下安装需要注意CUDA版本对应，以及下载对应的TensorRT包。但上述pip方法在Linux和Windows上应该都适用（注意Windows下需要对应的CUDA环境变量设置，并且确保pip安装的TensorRT与CUDA版本匹配）。

 如果遇到问题，可以检查以下事项：
   - 确保虚拟环境中已经安装了与TensorRT兼容的CUDA Toolkit（通常需要系统安装CUDA，并在虚拟环境中通过conda安装cudatoolkit，或者使用系统级CUDA并设置环境变量）。
   - 如果使用系统CUDA，请确保虚拟环境中能够找到CUDA（例如设置LD_LIBRARY_PATH（Linux）或PATH（Windows）包含CUDA的库路径）。
   - 如果pip安装的TensorRT版本与CUDA版本不匹配，可能需要指定版本，例如：`pip install nvidia-tensorrt==8.6.1`（具体版本根据需求）。

 注意：TensorRT的安装可能还需要cuDNN的支持，同样需要确保cuDNN的版本与TensorRT和CUDA匹配。

 如果上述方法不行，也可以尝试从NVIDIA官网下载TensorRT的压缩包（.tar.gz或Windows的zip），然后按照官方文档进行安装，并将相关的库路径添加到环境变量中。但这种方法相对复杂，且需要手动将Python包复制到虚拟环境（如引用[1]所述）。

 由于我们推荐使用pip安装，所以先尝试上述步骤。

 生成相关问题：
</think>
在conda虚拟环境中安装TensorRT的推荐方法是使用pip安装，以下是详细步骤：

### 安装方法
1. **激活虚拟环境**  
   ```bash
   conda activate your_env_name  # 替换为你的环境名
   ```

2. **安装依赖索引**  
   ```bash
   python -m pip install nvidia-pyindex  # 添加NVIDIA官方仓库
   ```

3. **安装TensorRT**  
   ```bash
   python -m pip install --upgrade nvidia-tensorrt
   ```
   > 注：自动安装匹配的CUDA依赖（如cuDNN/CUDA Runtime）

4. **验证安装**  
   ```python
   >>> import tensorrt
   >>> print(tensorrt.__version__)  # 输出版本号（如8.6.1）
   >>> assert tensorrt.Builder(tensorrt.Logger())  # 检查运行时环境
   ```

### 注意事项
1. **CUDA版本匹配**  
   - 需确保系统CUDA版本与TensorRT兼容（[版本对应表](https://docs.nvidia.com/deeplearning/tensorrt/support-matrix/index.html)）
   - 检查CUDA版本：`nvcc --version`

2. **Windows特殊配置**  
   - 需手动添加TensorRT库路径到环境变量：
     ```powershell
     set PATH=%PATH%;C:\TensorRT\lib  # 替换为实际解压路径[^3][^5]
     ```

3. **备选方案（不推荐）**  
   若pip安装失败，可尝试复制系统包：
   ```bash
   cp -r /usr/lib/python3.8/dist-packages/tensorrt* $CONDA_PREFIX/lib/python3.9/site-packages/
   ```
   > 需注意Python版本一致性，可能引发兼容性问题[^1]

### 常见问题解决
- **导入错误**：检查`LD_LIBRARY_PATH`（Linux）或`PATH`（Windows）是否包含CUDA/TensorRT库路径
- **版本冲突**：使用`conda list`检查是否存在冲突包（如旧版tensorflow-gpu）
- **安装特定版本**：`pip install nvidia-tensorrt==8.6.1`

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		
评论 3

	

  
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值