Deepseek 本地部署

准备环境

设备：家用笔记本电脑，8核/16G/1Tb SSD/无独显

系统：windows10

软件环境（非源码部署不需要）：conda 4.8.5、python3.7、git2.13

步骤

下载安装Ollama

下载地址：OllamaGet up and running with large language models.https://ollama.com/

 双击安装，连点下一步即可。

下载并启动DeepSeek模型

以小模型deepseek-r1:7b为例:

命令行执行：ollama run deepseek-r1:7b

效果如下：

这样，模型服务就启动了。API地址为：http://127.0.0.1:11434/v1

R1版本地址：https://github.com/deepseek-ai/DeepSeek-R1

其它模型如下，按自己硬件环境选择即可：

 

下载安装桌面客户端chatboxai（非必要）

下载地址：

Chatbox AI官网：办公学习的AI好助手，全平台AI客户端，官方免费下载Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。https://chatboxai.app/zh 

双击安装，连点下一步即可。安装完成后，运行ChatBox客户端，点击设置配置，配置内容如下：

模型提供方：选OPENAI API

API秘钥：模型启动命令，如ollama run deepseek-r1:7b

API域名：就是前面ollama启动后那个服务的API地址http://127.0.0.1:11434/v1（默认端口11434）

模型：自定义模型

自定义模型名称：deepseek-r1:7b

保存就行了。

然后就可以用了。

家用PC这样的低算力环境下，DeepSeek比其它开放模型确实要强大很多。