一、下载安装 Ollama
部署DeepSeek要用到 Ollama,它支持多种大模型。
Ollama官网:ollama.com
下载安装Ollama,macOS、Linux 和 Windows都可以下载安装,这里选用Windows系统。用管理员权限安装。
安装
推荐使用管理员启动cmd命令窗口。
这里我用用户权限测试一下。
设置ollma 下载的ai大模型(deepseek)安装路径。
OLLAMA_MODELS 和磁盘存放模型路径。
这里需要重启Ollama服务,暂时不清楚具体哪些服务,我选择重启电脑。
开启命令窗口。测试ollama -v
查看服务是否正常。
接下来下载ai大模型。
二、下载 DeepSeek-R1
1、进入Ollama官网,找到Models。
2、进入就可以看到deepseek-r1模型,如果没有,在搜索栏搜索即可。
复制相应的命令。
ollama run deepseek-r1:1.5b
测试一下。
以后每次测试可以直接开启命令窗口输入命令进行问答了。
ollama run deepseek-r1:1.5b
下面我们选择Chatbox客户端作为可视化聊天器。
三、Chatbox前端搭建
1、下载安装Chatbox
Chatbox官网:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载
进入官网下载安装Chatbox客户端。
点击设置,选择Ollama API
测试本地的api缺少实时联网和更新功能。