JesseCooper的博客

原创 NVIDIA TensorRT LLM 1.2.0rc2z on ubuntu 25.10本地部署安装推理体验

本文记录了在Ubuntu 25.10系统上部署NVIDIA TensorRT LLM 1.2.0rc2的过程。作者使用Intel i5-1240P处理器和RTX2060 SUPER显卡的机器，尝试通过pip安装时遇到连接问题，最终通过指定NVIDIA PyPI源成功下载。但在安装过程中遭遇硬盘空间不足和依赖冲突问题，随后更换到配备4060Ti显卡的机器重新安装，又遇到大量依赖项安装需求。整个部署过程充满曲折，凸显了安装新版本AI框架时可能面临的兼容性和环境配置挑战。