【AI】本地部署DeepSeek大模型

零基础3分钟本地部署DeepSeek大模型!手把手实战指南

将 DS 部署到自己电脑,只需简单几步,电脑小白也能搞定。下面开始进入部署环节(本教程不介绍所使用的软件,有兴趣的人可自行了解)。

脱水教程,只需看红色内容

  1. 下载安装 Ollama

  2. 下载 DeepSeek 模型

  3. 下载安装 Chatbox

  4. 开始使用本地 DeepSeek

1.下载安装 Ollama 

访问 Ollama 官网

https://ollama.com/download

下载电脑系统对应版本的安装程序。本教程以 Windows 系统为例 ( Win10 及以上版本) , macOS 以及 Linux 操作基本一样。

图片

OllamaSetup.exe 700多MB,双击运行后傻瓜式安装过程。完成安装后,开始菜单会多出 Ollama 一项。

图片

点击它运行,此刻系统栏(桌面右下角会有 Ollama 的图标)

图片

图片

2.下载 DeepSeek 模型

按键盘 Win + R 组合键打开 “运行” ,输入 CMD 启动 “命令行” ,复制下方对应模型命令并粘贴到 CMD 窗口中,敲回车等待完成下载和校验,根据自己电脑配置,选择对应参数,如 7b ,指 70 亿参数的大模型。

1.5B 模型

 

ollama run deepseek-r1:1.5b

7B 模型(复制下面整行命令)

 

ollama run deepseek-r1:7b

图片

等待完成下载……

8B 模型

 

ollama run deepseek-r1:8b

14B 模型

 

ollama run deepseek-r1:14b

32B 模型

 

ollama run deepseek-r1:32b

70B 模型

ollama run deepseek-r1:70b

说明:

显卡显存 8GB 或以下建议跑 1.5B 或 7B 参数模型(参数越高知识面越全,推理能力越强。下载过程如中断(如电脑关机),再次执行同一命令可从中断处继续下载。

每个模型所占用的硬盘空间具体如下:

1.5B 参数 占用硬盘空间 1.1GB

7B 参数 占用硬盘空间 4.7GB

8B 参数 占用硬盘空间 4.9GB

14B 参数 占用硬盘空间 9.0GB

32B 参数 占用硬盘空间 20GB

70B 参数 占用硬盘空间 43GB

671B 参数 占用硬盘空间 404GB

图片

出现 success 后可关闭此窗口

3.下载安装 Chatbox

打开官网 https://chatboxai.app/zh 下载安装 Chatbox,这里仍然以 Windows 系统为例,完成安装后运行它。

图片

图片

Chatbox 工作界面如上图,依次点击 设置 > 模型 > 模型提供方 > 下拉选择 Ollama API 。完成设置后点击 保存 即可开始在本地使用 DeepSeek 啦~

图片

Chatbox 可自动获取 API 域名,无需手动填写,一般为

http://127.0.0.1:11434

模型 下拉列表为你所下载的模型,如下载多个模型,可在此处切换

4.开始使用本地 DeepSeek

试着问几个问题。

爸爸妈妈有四个女儿,每个女儿都有个弟弟,请问这家庭一共有几口人?

答案是 7 ,正确!

图片

鲁迅打周树人怎么办?

图片

至此, DeepSeek 已经在本地电脑跑起来了,使用过程中有任何不懂的,可加留言或加我微信提问,无偿解答。

PS:

零基础3分钟本地部署DeepSeek大模型!手把手实战指南

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值