DeepSeek 本地化部署教程

1 概述

1.1 配置参考图

在这里插入图片描述

科普:
B,Billion(十亿),是 “参数量” 的单位。
模型量超过 一亿,可称之为 “大模型”。

2 软件安装

2.1 下载 Ollama

2.1.1 修改默认安装路径

  • 等待浏览器下载文件 "OllamaSetup.exe",请注意,默认安装 C 盘,建议修改,如:安装至 "D:\04 工具\DeepSeek\ollama"
> cd [ollamaSetup.exe 所在位置]
> 
> ollamaSetup.exe /DIR="D:\04 工具\DeepSeek\ollama"
  • 下载完成之后,通过快捷键 Win + R,打开运行窗口,输入查询版本命令(如下),若有以下提示,则表示安装成功。
> ollama -v

在这里插入图片描述

2.1.2 修改环境变量

  • 若想其他电脑也能远程访问 DeepSeek,就需要修改下列环境变量。
  • 使用场景:将 DeepSeek 部署至本地服务器上,然后通过 PC 去访问。
变量说明
OLLAMA_HOST0.0.0.0ollama 服务器监听的网络地址
OLLAMA_ORIGINS*客户端的请求来源
OLLAMA_MODELSD:\04 工具\DeepSeek\modelsDeepSeek 安装位置
以下选项
OLLAMA_NUM_PARALLEL1表示请求处理的并发数量,默认 1
OLLAMA_KEEP_ALIVE5m表示大模型加载到内存中后的存活时间,默认 5m,即 5 分钟。若想一直存在,可设置为 24h,提供访问速度

在这里插入图片描述

2.2 下载 DeepSeek

  • 下载指定版本的 DeepSeek,如 14b
> ollama run deepseek-r1:14b

在这里插入图片描述

图片是deepseek-r1:32 版本,14b 版本同理,此处仅展示下载的效果

2.3 运行 DeepSeek

  • 和下载 DeepSeek 的命令相同(存在 → 运行,不存在 → 下载)
> ollama run deepseek-r1:14b

在这里插入图片描述

2.4 界面展示 DeepSeek

2.4.1 下载 ChatBox

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

鱼丸丶粗面

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值