Windows本地部署deepseek-r1模型

一、deepseek简介

 ‌        DeepSeek‌是由幻方量化旗下的深度求索(DeepSeek)公司开发的一款专注于推理能力的AI大模型。DeepSeek-R1是其最新一代推理大模型,具有成本低、推理能力强等优势,尤其在数学、编程和自然语言推理任务中表现出色,性能可与OpenAIo1模型相媲美,但API调用成本却低了90%-95%。‌

二、ollama安装并部署deepseek

        Ollama是一个开源的 LLM(大型语言模型)服务工具,用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型,包括如Deepseek、Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。

2.1 ollama下载

1)首先进入ollama官方网站:Ollama 

2)然后点击“Download”,进入下载页面,这里下载windows版本

注:有可能下载很慢,这里可以右键点击下载按钮,复制下载地址,使用迅雷进行下载。

3)下载完成后的安装程序如下:

2.2 ollama安装

1)双击OllamaSetup.exe,然后直接点击install按钮直接安装

默认安装地址是:C:\Users\Administrtor\AppData\Local\Programs目录下

2)安装完成后,ollama会自动运行,可以在电脑右下角看到如下图标

3)由于模型下载的默认地址也在这里,我们可以将ollama迁移到其他盘,迁移方法详见

2.3 下载deepseek

1)在ollama官网首页,点击models,可以看到ollama支持的所有模型,这里我们选择deepseek-r1,如下

2)进入deepseek页面,可以选择不同参数规模的模型,这里我们选择1.5b,并复制后面框中的命令

3)打开powershell窗口,先执行ollama –v命令查看ollama是否已经运行;

4)将复制的命令拷贝到powershell,开始下载并部署模型,在完成后会出现send a message的字样,说明模型部署完成,如下:

同样的方法也可以下载部署其他的大模型

三、安装chatbox并使用deepseek

        chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

3.1 下载chatbox

1)进入chatbox官方网址:

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

2)下载windows版本,下载成功后得到安装程序,如下:

3.2 安装chatbox

1)双击“Chatbox-1.9.8-Setup.exe “开始安装

2)点击下一步,然后选择安装的路径,最后点击“安装“按钮开始安装

3)最后点击完成并运行chatbox

3.3 配置模型

1)chatbox软件启动后,选择”使用自己的API Key或本地模型“

2)模型提供方选择“OLLAMA API“

3)API域名填入本地ollama地址,模型选择deepseek-r1:1.5b

4)这样模型配置就完了,可以开始使用本地部署的deepseek;

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值