“轻松上手！5分钟学会用京东云打造你自己的专属DeepSeek”

 #从第⼀步骤到第四步骤是完成 DeepSeek 本地部署和使⽤,可以满⾜中⼩企业环境的稳定使⽤,第五步骤为基于 AnythingLLM 和本地数据进⾏训练(基于本地数据搭建本地知识库):⼀：京东云 GPU 云主机环境准备⼆：部署 Ollama 三：运⾏DeepSeek 模型四：图形客户端使⽤#第五步骤可以不执⾏五：本地数据投喂

⼀：京东云 GPU 云主机环境准备：

DeepSeek 的不同版本模型对主机硬件(主要是 CPU、内存和 GPU)的要求不⼀样，推荐使⽤拥有单独 GPU 的主机进⾏部署以获得更好的使⽤体验，显卡推荐使⽤如 NVIDIA RTX 3090 或同等以上规格的显卡，CPU 需要⽀持 AVX2、AVX-512 等指令集可以进⼀步提⾼响应性能, 如已有符合业务需求的主机环境可以跳过当前的主机环境准备步骤。

1.1: 京东云创建 GPU 云主机：

基于实际业务需求选择云主机计费模式、地域、可⽤区、CPU 架构、系统镜像及系统版本, 企业环境对于稳定性要求⽐较⾼通常使⽤Linux 系统运⾏业务系统, 本步骤以 Ubuntu 22.04 LTS 系统版本为例(Rocky Linux 及 RHEL 的操作步骤⼀致)、GPU 为 vidia Tesla P40, 演示基于 Ollama 部署 DeepSeek-R1 :

选择 GPU 实例规格类型,可选自动安装 GPU 驱动、或云主机运行成功后单独安装 GPU 驱动(本文档为单独安装 GPU 驱动)

自定义云盘类型及大小、然后下一步 

自定义云主机网络、安全组、弹性公网 IP, 安全组需要允许客户端访问 11434 端口, 然后下一步

自定义主机密码、主机名称等信息, 然后点击立即购买

勾选已阅读并同意并确认开通

创建完成：

然后在云主机控制台验证主机运行成功

1.2：安装 GPU 显卡驱动：

使⽤SSH⼯具远程连接到实例, 安装显卡驱动(以下为在 Ubuntu 2204 的显卡驱动安装过程)

登录后复制

root@deepseek-vm:~# apt update
root@deepseek-vm:~# ubuntu-drivers devices
== /sys/devices/pci0000:00/0000:00:0a.0 ==
modalias : pci:v000010DEd00001B38sv000010DEsd000011D9bc03sc02i00
vendor   : NVIDIA Corporation
model    : GP102GL [Tesla P40]
driver   : nvidia-driver-470-server - distro non-free
driver   : nvidia-driver-450-server - distro non-free
driver   : nvidia-driver-550 - distro non-free recommended
driver   : nvidia-driver-535-server - distro non-free
driver   : nvidia-driver-418-server - distro non-free
driver   : nvidia-driver-545 - distro non-free
driver   : nvidia-driver-470 - distro non-free
driver   : nvidia-driver-535 - distro non-free
driver   : nvidia-driver-390 - distro non-free
driver   : xserver-xorg-video-nouveau - distro free builtin


root@deepseek-vm:~# apt install nvidia-driver-550 -y #通过ubuntu仓库安装推荐的驱动版本或使用其它方式安装显卡驱动
root@deepseek-vm:~# reboot  #重启服务器以使显卡驱动生效


root@deepseek-vm:~# nvidia-smi #重启后验证驱动及显卡状态(当前演示主机为两块NVIDIA Tesla P40显卡)
Thu Feb  6 16:45:28 2025       
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 550.120                Driver Version: 550.120        CUDA Version: 12.4     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  Tesla P40                      Off |   00000000:00:09.0 Off |                    0 |
| N/A   24C    P8              9W /  250W |       0MiB /  23040MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+
|   1  Tesla P40                      Off |   00000000:00:0A.0 Off |                    0 |
| N/A   23C    P8              9W /  250W |       0MiB /  23040MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+
                                                                                         
+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI        PID   Type   Process name                              GPU Memory |
|        ID   ID                                                               Usage      |
|================================