Linux 系统下 如何部署本地 deepseek R1模型

硬件：RTX3090 24G

系统：ubuntu 1804

1. 下载ollama

curl -fsSL https://ollama.com/install.sh | sh

2.下载deepseek R1 模型数据

百度网盘下载链接

可以全部都下载，也可以选择性下载，主要看硬件平台

7B的模型大概需要5.5GB显存，

14B的模型大概需要11GB显存，

32B的模型大概需要22GB显存，

3.部署命令

切换到deepseek下载的模型数据目录下，执行

ollama create ds32b -f deepseek-r1-32b.modelfile

 注意，这里如果报错找不到目标文件，打开deepseek-r1-32b.modelfile，修改FROM后面的为模型文件的路径，如改为

FROM deepseek-r1-32b.gguf

4.运行

ollama run ds32b

即可通过命令行与ds对话。

其他的如使用对话框例如chatbox之类的，可以参考