Ubuntu20.04 RTX4060 AI环境搭建

下面记录在Ubuntu20.04环境下,使用ASUS ATS-RTX4060-O8G-V2显卡,搭建Nvidia TensorRT开发环境。

1.安装步骤

0)准备工作

     使用如下命令创建我们的工作目录:

mkdir ~/nvidia

     再使用如下命令进入到上面的目录(接下来的步骤,如无特殊说明,均在该目录下进行):

cd ~/nvidia

1)安装CUDA

     下载并安装NVIDIA CUDA Toolkit:

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.5.0/local_installers/cuda-repo-ubuntu2004
### 部署 DeepSeek-R1 的环境准备 为了在 i5-12400 和 RTX 4060 Ti 上使用 VMware Workstation 创建的 Ubuntu 20.04 虚拟机中成功部署 DeepSeek-R1 大模型,需遵循一系列详细的设置流程。 #### 安装必要的依赖项 确保虚拟机中的 Python 版本兼容所要安装的库。对于 DeepSeek-R1 来说,推荐使用 Python 3.8 或更高版本[^1]: ```bash sudo apt update && sudo apt upgrade -y sudo apt install python3-pip build-essential libssl-dev libffi-dev python3-dev -y pip3 install --upgrade pip setuptools wheel ``` #### 设置 Conda 环境 创建一个新的 Conda 环境来隔离项目所需的包和工具链: ```bash conda create -n deepseek_env python=3.9 -y conda activate deepseek_env ``` #### 获取并编译源码 通过 Git 下载最新的 Janus 库,并按照官方指南完成本地构建过程: ```bash git clone https://github.com/deepseek-ai/Janus.git cd Janus/ pip install -e . pip install webencodings beautifulsoup4 tinycss2 pip install -e .[gradio] pip install 'pexpect>4.3' ``` 由于目标是部署 R1 模型而非 Pro 版本,在执行 `python demo/app_januspro.py` 前应确认启动脚本指向正确的模型路径或调整参数以匹配 R1 模型的需求。 #### GPU 支持配置 考虑到硬件特性(即 Intel CPU 及 NVIDIA 显卡),还需特别注意 CUDA 工具集以及 cuDNN SDK 的适配情况。建议先验证显卡驱动程序已正确加载,并通过 Nvidia-SMI 测试其功能正常;之后再依据个人需求选择合适的 CUDA/cuDNN 组合进行安装。 #### 运行应用程序 最后一步是在准备好上述所有条件的基础上尝试运行应用实例,观察是否存在任何潜在错误提示以便及时修正: ```bash python demo/app_r1.py # 注意这里应该是针对R1的具体入口文件名 ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

stxinu

共创嵌入式xAI!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值