宝子们😎,还在为找资料东奔西走,被付费知识 “割韭菜” 而烦恼吗🧐?今天就给大家分享超实用的技术干货 ——DeepSeek 和 RAGFlow 本地部署,再手把手教你搭建专属知识库📚,让知识管理和获取变得轻松又高效,而且 0 基础也能轻松上手!
1、安装ollama
ollama堪称开源 AI 界的宝藏工具🎁,有了它,像 GPT-4、DeepSeek 这些超厉害的模型都能在咱自己电脑上跑起来🚀。安装超简单:
第一步:直奔 ollama 官网(https://ollama.com/download/windows ),根据电脑系统下载对应版本。要是下载慢得像蜗牛🐌,别担心!用 github 代理加速(https://ghfast.top/ ),把 ollama 在 github 的下载链接(https://github.com/ollama/ollama/releases/download/v0.5.7/OllamaSetup.exe)输进去,瞬间提速💨。
第二步:安装 ollama,下载完后,一路 “下一步” 就搞定安装,轻松加愉快😜。
第三步:配置环境变量,打开电脑设置-系统-关于,点击【高级系统设置】,
然后点击【环境变量】按钮
点击【新建】按钮
# 穿透
OLLAMA_HOST
0.0.0.0:11434
#默认模型下载地址
OLLAMA_MODELS
E:\study\ollama
完成之后点击【确认】按钮。
安装大模型并运行
快捷键:win+r,打开命令窗口,安装deepseek r1模型,输入命令:
ollama run deepseek-r1:7b
需要下载很久,耐心等待即可。
安装完成之后,要查看是否安装成功,执行命令:
ollama list
ollama run deepseek-r1:7b # 运行7b模型:
# 输入你想问的东西。
2、下载ragflow:建议选择方法二
方法一:安装git,就一直点击下一步就行,安装完成之后,鼠标右键
需要先配置用户名和邮箱,要真实的邮箱
下载源码,在界面上输入:
git clone https://github.com/infiniflow/ragflow.git
如果在拉取源码的时候,遇到如下图问题,可以输入命令:
git config --global --unset http.proxy
git config --global --unset https.proxy
然后再尝试拉取代码
或者是如下图问题,直接输入命令:
git config --global http.version HTTP/1.1
方法二:访问地址:https://github.com/infiniflow/ragflow,点击下载即可
进入 docker 文件夹,利用提前编译好的 Docker 镜像启动服务器:
启动服务之前先修改 docker/.env 文件内的 RAGFLOW_IMAGE 变量。
通过设置
RAGFLOW_IMAGE=infiniflow/ragflow:v0.15.1
来下载 RAGFlow 镜像的 v0.15.1 完整发行版。
3、安装Docker
第一步:
1)操作系统:Windows 10 64-bit: Pro, Enterprise, or Education (Build 15063 or later) 或Windows 11。
2)硬件:支持虚拟化技术的处理器和至少 4 GB 的内存。
3)虚拟化:确保 BIOS 中已启用虚拟化技术(如 Intel VT-x 或 AMD-V)。
如何查看是否开启了虚拟化技术:Ctrl+Alt+Delete,打开任务管理器,点击性能
如果没有开启虚拟化技术,在BIOS中开启虚拟化技术:
首先开机进入BIOS,一般机器是按F2,自己可以上网查看自己电脑到底是按哪个键,选择configuration按回车键进入。进行后选择蓝色的第三个Secure Virtual Machine Mode。按回车键进入后选择Enabled开启,然后再按回车键确认。选定后,在键盘上按F10保存,弹出一个对话框,选择OK,按回车键确认保存,然后电脑就会自动重启。虚拟化设置就打开了
如果已经开启虚拟化技术,就按照如下步骤:
1)在程序和功能的窗口的左上角选择启用或关闭windows功能勾选Hyper-V和适用于linux的windows子系统和虚拟机平台,点击确认,之后他会让你重启这样准备工作就完成了
2)如果没有勾选Hyper-V的话,将下面命令复制到文本文档中,并将文档重命名Hyper.cmd
pushd "%~dp0"
dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt
for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i"
del hyper-v.txt
Dism /online /enable-feature /featurename:Microsoft-Hyper-V-All /LimitAccess /ALL
等待脚本执行,最后输入Y,进行电脑重启之后,查看控制面板-程序-启用或关闭Windows功能,可以看下Hyper-v节点已存在,然后勾选上。
第二步:安装 WSL 2
1)查看自己的电脑是否安装了wsl,快捷键win+r,输入cmd,按enter键,输入命令:
wsl -l
我的电脑上已经安装好了。
2)如果没有安装好的话,就打开powershell并输入:
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
检查WSL2的要求:win+R打开运行,然后输入winver检查windows版本
查看Linux版本,此版本需要大于1903
启用虚拟化:以管理员打开powershell输入下列命令:
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
设置WSL默认版本:
wsl --set-default-version 2
第三步:访问 Docker 官网:打开浏览器,访问 Docker Desktop 下载页面。(https://www.docker.com/products/docker-desktop/)选择适用于 Windows 的版本进行下载。
打开软件,使用命令提示符(cmd),输入以下命令,检查 Docker 的版本信息:
docker version
第四步:打开docker软件,点击设置,点击docker引擎,配置下载镜像:
"features":{
"buildkit": true
},
"registry-mirrors":[
"https://docker.m.daocloud.io",
"https://docker.1panel.live",
"https://registry.docker-cn.com",
"https://cr.console.aliyun.com",
"https://mirror.ccs.tencentyun.com"
]
最后点击【apply】按钮
运行一个简单的 Docker 容器,以验证安装是否成功:
docker run hello-world
进入到刚才下载完成的ragflow-main文件夹下,在上面这个路径输入cmd
运运行命令:
docker compose -f docker/docker-compose.yml up -d
等待镜像包下载完成
下载完成之后,再输入命令
docker logs -f ragflow-server
出现以下界面提示说明服务器启动成功:
启docker里面的服务,我发现自己电脑的9001端口被占用,minio无法启动
方法如下:
1、打开cmd
2、输入代码:
netstat -aon | findstr :9001
3、根据进程号杀死相应进程:
taskkill /f /pid [进程号]
4、如果杀不了进程,可以通过修改ragflow/docker/env配置中,修改minio端口为9002
5、在ragflow-main/docker文件夹下,输入cmd,输入关闭命令
docker-compose -f docker-compose.yml stop
6、ragflow-main文件夹下,输入cmd,输入运行命令:
docker compose -f docker/docker-compose.yml up -d,
4、使用ragflow创建知识库
打开电脑自带的浏览器,访问http://localhost:80/,进行注册
完成之后就登录即可
这里可以设置成中文。
点击右上角的头像,点击【模型提供商】
找到ollama,点击【添加模型】
模型类型选择chat,win+r,输入cmd,输入命令ollama list,查看自己安装模型名称,复制然后输入到模型名称,基础url,输入http://自己的ip地址:11434。最后点击【确定】按钮。
如何查看自己的ip地址?win+r,输入cmd,输入命令ipconfig,根据下图标红的进行查看
再点击【系统模型设置】
选择刚才添加的模型,然后点击确定
回到知识库界面,点击【创建知识库】,
输入知识库名称,例如:java面经
然后配置知识库,把语言改成中文
选择好相应的嵌入模型和解析方法。
点击【数据集】,再点击【新增文件】,上传文件,有点慢,哈哈哈
上传完成之后,对文件进行解析,解析速度与文件大小和电脑的内存大小有关。
解析完成之后,点击上面的【聊天】按钮,新建助理
填入相关信息、选择好相应的知识库,点击确定。
输入你想问的问题,这样一个知识库就完成了
宝子们,按照这些步骤,0 基础也能轻松搞定 deepseek + RAGFlow 本地部署,还能搭建超实用的知识库。赶紧动手试试,感受技术带来的乐趣和便利吧!要是在过程中遇到问题,欢迎在评论区留言,大家一起讨论解决~
大家需要安装包的,可以关注我的公众号:不羁风,回复【01】即可