DeepSeek-R1 本地部署模型流程

 DeepSeek-R1 本地部署模型流程 
*****************************************************
环境准备
操作系统:Windows11
内存:32GB RAM
存储:预留 300GB 可用空间
显存:  16G
网络: 100M带宽
 
*****************************************************
setup1:  安装 Ollama

访问 Ollama 官网(https://ollama.com/ )
根据你的操作系统点击 “download” 下载安装包,然后进行安装。
确保github可访问 ( windows hosts配置github访问dns )

安装成功后: 
cmd命令行输入 ollamam 确认安装正确.(输出使用说明提示)
****************************************************

****************************************************
setup2: 下载 DeepSeek 模型
打开 Ollama 网址,找到 “models” 选项,进入后选择 “deepseek-r1”。(https://ollama.com/library/deepseek-r1)
本机16G显存 使用 ollama run deepseek-r1:14b 
--------------------------------------------
1.5b 版本:适用于一般文字编辑使用,需要 1.1GB 空余空间,命令为ollama run deepseek-r1:1.5b。
7b 版本:DeepSeek 的第一代推理模型,性能与 openal-01 相当,需要 4.7GB 空余空间,命令为ollama run deepseek-r1:7b。
8b 版本:需要 4.9GB 空余空间,命令为ollama run deepseek-r1:8b。
14b 版本:需要 9GB 空余空间,命令为ollama run deepseek-r1:14b。
32b 版本:需要 20GB 空余空间,命令为ollama run deepseek-r1:32b。
70b 版本:需要 43GB 空余空间,命令为ollama run deepseek-r1:70b。
671b 版本:需要 404GB 空余空间,命令为ollama run deepseek-r1:671b 。
(也可以在 DeepSeek 官网上,点击 “model”,进入最近的 “deepseekr1” 模型,点击 “复制” 按钮图标获取命令)
------------------------------------------------
复制粘贴命令到cmd命令行,等待即可.

下载结束后会出现 “verifyingsha256digest” 检查完整性,完成后若有 “success” 提示则表示部署完成。
其他命令:  
 ollama list 查看已部署模型
 ollama rm deepseek-r1:14b 删除模型
...
****************************************************

 ****************************************************
setup3: 开启对话
部署完成后,命令提示符输入位置会变成 “>>send a message for help” 提示,此时进入与人工智能对话场景,可以输入中文或英文进行交流

离线后重新进入对话:关闭 powershell 后,若想重新进入 DeepSeek 对话,通过CMD终端,输入 “ollama run deepseek-r1:14b” 。

搭建更便捷的操作界面(可选):如果想要更方便的操作界面,可以搭建 webui,需要安装 open - webui。(步骤略)
 ****************************************************

 ****************************************************
本地搭建大模型的意义(个人):
 自主可控 ,数据相对安全, 数据不会上传至云端,  用户对于包含商业机密、个人隐私等敏感数据的处理会更加放心。
 行业应用实时化, 降低使用门槛,无需依赖网络传输 , 配合企业/个人知识库+智能体应用,能拥有更合适自己的AI助手。

 ****************************************************

### 更换或更新 DeepSeek-R1 本地部署中的模型 为了在已有的 DeepSeek-R1 本地环境中更换或更新模型,需遵循一系列特定的操作流程。这些操作主要围绕 Ollama 平台展开,并涉及不同大小版本的 DeepSeek 模型的选择。 #### 卸载现有模型 如果想要替换当前使用的 DeepSeek-R1 版本,则首先要停止并移除现有的容器实例。这可以通过执行如下命令完成: ```bash docker stop deepseek-container-name docker rm deepseek-container-name ``` 这里 `deepseek-container-name` 是运行中容器的名字或者 ID[^2]。 #### 下载新模型 根据不同的硬件条件和个人偏好选择合适的模型尺寸(1.5B, 8B 或者 32B)。对于资源有限的情况推荐使用较小规模的模型1.5B 参数量版本;而对于拥有更好计算能力的支持设备可以选择更大参数量的模型以获得更佳性能表现[^3]。 下载所需的新版 DeepSeek 模型文件至本地存储位置。此过程可能依赖于官方提供的工具或是脚本来简化获取最新发布版本的过程。 #### 更新配置文件 修改用于启动服务的相关配置文档,指定新的模型路径以及任何必要的初始化参数设置。确保所有更改都符合所选模型的要求说明。 #### 启动新版模型 最后一步是重新创建一个新的 Docker 容器来加载刚刚准备好的模型镜像,并按照之前介绍的方式启动它: ```bash ollama run deepseek-r1:<new_version_tag> ``` 这里的 `<new_version_tag>` 应该被替换成实际要使用的具体标签名,比如 `1.5b`, `8b` 或者 `32b` 等对应选项之一[^1]。 通过以上步骤可以顺利完成 DeepSeek-R1 的升级工作,在保持原有功能的基础上享受改进后的特性和服务质量提升。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值