DeepSeek本地部署教程来了!Windows电脑下Docker、Ollama本地部署DeepSeek-r1模型(详细避坑版)

DeepSeek本地部署教程来了!Windows电脑下Docker、Ollama本地部署DeepSeek-r1模型(详细避坑版)

一、下载ollama

1.去官网https://ollama.com点击download下载ollama,
在这里插入图片描述
2.注意电脑系统要求win10及以上,选择windows
在这里插入图片描述
3.选择左上角Models,选择deepseek-r1模型,根据你电脑配置如显存、cpu、gpu实际情况选择模型,数字越大,对显存要求越高;最小且响应最快速是1.5b,但是性能相对逊色
在这里插入图片描述
4.选好模型后,复制右边的代码后,win+R命令行输入在这里插入图片描述

ollama run deepseek-r1:1.5b

5.等待下载完成
在这里插入图片描述
6.运行后可以在这里和deepseek对话

ollama run deepseek-r1:1.5b

在这里插入图片描述

二、下载Docker

1.官网下载docker
https://www.docker.com选择windows版本
在这里插入图片描述
2.安装,两个勾选并默认即可,按照提示设置好
在这里插入图片描述

3.安装完成需要重新启动Windows,重启后再次打开Docker,需要同意Docker的条款,并注册你的账号,用邮箱注册就好
在这里插入图片描述
4.解决升级问题

升级Docker(wsl update failed问题)

当你重启电脑后再次打开Docker如果出现一个这样的界面
在这里插入图片描述
1.安装WSL,使用命令行查看可安装的wsl版本

//查看可安装的版本信息
wsl --list --online

在这里插入图片描述
2.安装相应版本,比如这里安装Ubuntu-20.04

安装对应版本
wsl --install -d Ubuntu-20.04 

3.wsl更新到wsl2
获取WSL2 Linux内核更新包并运行
https://wslstorestorage.blob.core.windows.net/wslblob/wsl_update_x64.msi

4.执行以下命令,将把 WSL 2 设置为默认版本,如果您的系统中没有安装 WSL 2 内核,则会自动下载并安装

 wsl --set-default-version 2

5.如果 WSL 2 内核更新失败,您可以尝试手动更新

 wsl --update

TIPS:手动更新遇到wsl --update 进度一直为0,可能是因为默认的wsl --update 是从微软商店下载的,微软应用商店就经常出现网络的问题。在wsl --update 后面加上 --web-download 就可以从github上进行下载

 wsl --update --web-download

6.查看目前wsl2的版本

 wsl -l -v

在这里插入图片描述

7.重新执行这条命令:

wsl --install -d Ubuntu-20.04

8.按照提示输入用户名和密码后

wsl -d Ubuntu-20.04//是启动命令
wsl -t Ubuntu-22.04//是结束命令

在这里插入图片描述
9.温馨提示!!在操作docker特别容易遇到 “Error response from daemon: Get https://registry-1.docker.io/v2/” 这样的错误通常是因为 Docker 无法从 Docker Hub 拉取镜像。这个问题可能由多种原因引起,下面是一些可能的解决方案:
(1)网络连接问题:首先检查你的互联网连接。Docker 需要访问外部网络才能从 Docker Hub 拉取镜像。

(2)登录 Docker Hub:如果你在尝试拉取一个需要认证的镜像,或者你的 IP 被 Docker Hub 限制访问速率,你可能需要登录到 Docker Hub。使用以下命令登录:

docker login

如果电脑不需要安装ubuntu的版本,可以用命令删掉
步骤 1:停止目标分发版

如果目标分发版(如 Ubuntu 20.04)正在运行,需要先停止它:

wsl --terminate Ubuntu-20.04

步骤2:卸载目标分发版

通过以下命令删除指定的分发版:

wsl --unregister Ubuntu-22.04

三、安装Open WebUI

1.打开Open WebUI这个开源工具的代码页:https://github.com/open-webui/open-webui找到“If Ollama is on your computer, use this command”这一项,点击右边的按钮复制这个指令后复制到命令行运行
在这里插入图片描述

但是容易因为科学上网的问题卡住

官网:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

因此改成国内源:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always registry.cn-shenzhen.aliyuncs.com/funet8/open-webui:main

2.复制到命令行下载Open WebUI,下载好后如下图所示
在这里插入图片描述
3.安装完成后,你会发现你的Docker的Containers里多了Open WebUI的条目
在这里插入图片描述
4.打开命令行窗口里再次执行

ollama run deepseek-r1:1.5b

在这里插入图片描述
5.保持命令行窗口开启,然后点击Docker界面Port(s)的3000:8000位置启动,打开http://localhost:3000/
在这里插入图片描述

6.把你之前注册的账号名字密码填进去登录
在这里插入图片描述
7.点击确认后可以开始使用啦,选择你下好的模型(如1.5b)后就恭喜你可以正常使用咯!
blog.csdnimg.cn/direct/03c01b0938ff43a2aba020d915d6919e.png)
(其实感觉不用docker也行,用chatbox也可以有一个UI界面~那个好像会更简单,有空试了后再发,有不懂的欢迎大家提出问题探讨)

四、参考文章

1.DeepSeek-R1本地部署,再也不怕宕机,还有语音功能!
2.windows11运行Docker Desktop,报错Docker Desktop -WSL update failed
wsl --update 进度一直为0
3.Error response from daemon: Get “https://registry-1.docker.io/v2怎么解决
4.Docker Desktop + Open WebUI + Ollama
5.保姆级教程:利用Ollama与Open-WebUI本地部署 DeedSeek-R1大模型
6.DeepSeek 本地部署全攻略:保姆级教程
7.dockers、nvidia-dicker、nvidia-container-toolkit踩坑记
8.如何在 WSL 中删除指定版本的 Ubuntu(以删除 Ubuntu 22.04 为例)

### Ollama + DeepSeek-R1:32B + Docker + RAG Flow/Open WebUI 本地部署 #### 简介 DeepSeek是由阿里云推出的大型语言模型,而`DeepSeek-R1:32B`是指该系列的一个特定本,拥有约320亿参数规模。为了方便用户使用这个强大的模型,可以通过Docker容器化技术以及RAG (Retrieval-Augmented Generation) 流程来进行本地环境下的快速部署。 #### 部署步骤概述 1. **安装Docker**:如果你还没有安装Docker的话,则需要先下载并按照官方指南完成其设置过程; - [Docker官网](https://www.docker.com/) 2. **获取镜像文件**: 使用Ollama提供的命令行工具或者直接从仓库拉取包含有预训练权重和其他必要组件的docker image ```bash docker pull ollama/deepseek-r1:32b # 假设这是正确的标签名称 ``` 3. **配置数据集与索引构建**: 对于想要增强生成结果准确性的场景来说,在启动之前还需要准备相应的文本资料库,并通过一些额外脚本创建搜索索引来支持检索增强功能(Retrieve Augment Generate)。 4. **运行Web UI服务端口映射等选项自定义** 根据个人需求调整命令参数如开放HTTP访问地址、设定内存限制等等。 ```bash docker run --name my_deepseek_webui -p 7860:7860 ollama/deepseek-webui:latest ``` 5. **打开浏览器连接至localhost指定端口号即可开始体验** 以上即是在个人电脑上搭建基于ollama平台发布的deepseek模型加web界面交互的整体流程简介。 --- 需要注意的是实际操作过程中可能会遇到各种问题比如依赖项冲突或者是硬件资源不足等问题,建议参考具体产品的文档说明进一步排查解决办法。 --
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值