一、deepseek简介
DeepSeek是由幻方量化旗下的深度求索(DeepSeek)公司开发的一款专注于推理能力的AI大模型。DeepSeek-R1是其最新一代推理大模型,具有成本低、推理能力强等优势,尤其在数学、编程和自然语言推理任务中表现出色,性能可与OpenAI的o1模型相媲美,但API调用成本却低了90%-95%。
二、ollama安装并部署deepseek
Ollama是一个开源的 LLM(大型语言模型)服务工具,用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型,包括如Deepseek、Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。
2.1 ollama下载
1)首先进入ollama官方网站:Ollama
2)然后点击“Download”,进入下载页面,这里下载windows版本
注:有可能下载很慢,这里可以右键点击下载按钮,复制下载地址,使用迅雷进行下载。
3)下载完成后的安装程序如下:
2.2 ollama安装
1)双击OllamaSetup.exe,然后直接点击install按钮直接安装
默认安装地址是:C:\Users\Administrtor\AppData\Local\Programs目录下
2)安装完成后,ollama会自动运行,可以在电脑右下角看到如下图标
3)由于模型下载的默认地址也在这里,我们可以将ollama迁移到其他盘,迁移方法详见
2.3 下载deepseek
1)在ollama官网首页,点击models,可以看到ollama支持的所有模型,这里我们选择deepseek-r1,如下
2)进入deepseek页面,可以选择不同参数规模的模型,这里我们选择1.5b,并复制后面框中的命令
3)打开powershell窗口,先执行ollama –v命令查看ollama是否已经运行;
4)将复制的命令拷贝到powershell,开始下载并部署模型,在完成后会出现send a message的字样,说明模型部署完成,如下:
同样的方法也可以下载部署其他的大模型
三、安装chatbox并使用deepseek
chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。
3.1 下载chatbox
1)进入chatbox官方网址:
Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载
2)下载windows版本,下载成功后得到安装程序,如下:
3.2 安装chatbox
1)双击“Chatbox-1.9.8-Setup.exe “开始安装
2)点击下一步,然后选择安装的路径,最后点击“安装“按钮开始安装
3)最后点击完成并运行chatbox
3.3 配置模型
1)chatbox软件启动后,选择”使用自己的API Key或本地模型“
2)模型提供方选择“OLLAMA API“
3)API域名填入本地ollama地址,模型选择deepseek-r1:1.5b
4)这样模型配置就完了,可以开始使用本地部署的deepseek;