0基础玩deepseek+RAGFlow本地部署+搭建知识库

宝子们😎,还在为找资料东奔西走,被付费知识 “割韭菜” 而烦恼吗🧐?今天就给大家分享超实用的技术干货 ——DeepSeek 和 RAGFlow 本地部署,再手把手教你搭建专属知识库📚,让知识管理和获取变得轻松又高效,而且 0 基础也能轻松上手!

1、安装ollama

ollama堪称开源 AI 界的宝藏工具🎁,有了它,像 GPT-4、DeepSeek 这些超厉害的模型都能在咱自己电脑上跑起来🚀。安装超简单:

图片

第一步:直奔 ollama 官网(https://ollama.com/download/windows ),根据电脑系统下载对应版本。要是下载慢得像蜗牛🐌,别担心!用 github 代理加速(https://ghfast.top/ ),把 ollama 在 github 的下载链接(https://github.com/ollama/ollama/releases/download/v0.5.7/OllamaSetup.exe)输进去,瞬间提速💨。

图片

第二步:安装 ollama,下载完后,一路 “下一步” 就搞定安装,轻松加愉快😜。

第三步:配置环境变量,打开电脑设置-系统-关于,点击【高级系统设置】,

图片

然后点击【环境变量】按钮

图片

点击【新建】按钮

图片

# 穿透

OLLAMA_HOST

0.0.0.0:11434

#默认模型下载地址

OLLAMA_MODELS

E:\study\ollama

完成之后点击【确认】按钮。

安装大模型并运行

快捷键:win+r,打开命令窗口,安装deepseek r1模型,输入命令:

    ollama run deepseek-r1:7b

    需要下载很久,耐心等待即可。

    安装完成之后,要查看是否安装成功,执行命令:

      ollama listollama run deepseek-r1:7b  # 运行7b模型:# 输入你想问的东西。

      图片

      2、下载ragflow:建议选择方法二

      方法一:安装git,就一直点击下一步就行,安装完成之后,鼠标右键

      图片

      需要先配置用户名和邮箱,要真实的邮箱

      图片

      下载源码,在界面上输入:

        git clone https://github.com/infiniflow/ragflow.git

        如果在拉取源码的时候,遇到如下图问题,可以输入命令:

          git config --global --unset http.proxygit config --global --unset https.proxy

          然后再尝试拉取代码

          图片

          或者是如下图问题,直接输入命令:

            git config --global http.version HTTP/1.1

            图片

            方法二:访问地址:https://github.com/infiniflow/ragflow,点击下载即可

            图片

            进入 docker 文件夹,利用提前编译好的 Docker 镜像启动服务器:

            图片

            启动服务之前先修改 docker/.env 文件内的 RAGFLOW_IMAGE 变量。

            图片

            通过设置

              RAGFLOW_IMAGE=infiniflow/ragflow:v0.15.1

              来下载 RAGFlow 镜像的 v0.15.1 完整发行版。

              图片

              3、安装Docker

              第一步:

              1)操作系统:Windows 10 64-bit: Pro, Enterprise, or Education (Build 15063 or later) 或Windows 11。

              2)硬件:支持虚拟化技术的处理器和至少 4 GB 的内存。

              3)虚拟化:确保 BIOS 中已启用虚拟化技术(如 Intel VT-x 或 AMD-V)。

              如何查看是否开启了虚拟化技术:Ctrl+Alt+Delete,打开任务管理器,点击性能

              图片

              如果没有开启虚拟化技术,在BIOS中开启虚拟化技术:

              首先开机进入BIOS,一般机器是按F2,自己可以上网查看自己电脑到底是按哪个键,选择configuration按回车键进入。进行后选择蓝色的第三个Secure Virtual Machine Mode。按回车键进入后选择Enabled开启,然后再按回车键确认。选定后,在键盘上按F10保存,弹出一个对话框,选择OK,按回车键确认保存,然后电脑就会自动重启。虚拟化设置就打开了

              如果已经开启虚拟化技术,就按照如下步骤:

              1)在程序和功能的窗口的左上角选择启用或关闭windows功能勾选Hyper-V和适用于linuxwindows子系统和虚拟机平台,点击确认,之后他会让你重启这样准备工作就完成了

              图片

              2)如果没有勾选Hyper-V的话,将下面命令复制到文本文档中,并将文档重命名Hyper.cmd

                pushd "%~dp0"dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum  >hyper-v.txtfor /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism  /online /norestart  /add-package:"%SystemRoot%\servicing\Packages\%%i"del hyper-v.txtDism /online /enable-feature /featurename:Microsoft-Hyper-V-All  /LimitAccess /ALL

                等待脚本执行,最后输入Y,进行电脑重启之后,查看控制面板-程序-启用或关闭Windows功能,可以看下Hyper-v节点已存在,然后勾选上。

                第二步:安装 WSL 2

                1)查看自己的电脑是否安装了wsl,快捷键win+r,输入cmd,按enter键,输入命令:

                  wsl -l

                  我的电脑上已经安装好了。

                  图片

                  2)如果没有安装好的话,就打开powershell并输入:

                    dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart

                    图片

                    检查WSL2的要求:win+R打开运行,然后输入winver检查windows版本

                    图片

                    查看Linux版本,此版本需要大于1903

                    图片

                    启用虚拟化:以管理员打开powershell输入下列命令:

                      dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

                      图片

                      设置WSL默认版本:

                        wsl --set-default-version 2

                        第三步:访问 Docker 官网:打开浏览器,访问 Docker Desktop 下载页面。(https://www.docker.com/products/docker-desktop/)选择适用于 Windows 的版本进行下载。

                        图片

                        打开软件,使用命令提示符(cmd),输入以下命令,检查 Docker 的版本信息:

                          docker version

                          第四步:打开docker软件,点击设置,点击docker引擎,配置下载镜像:

                          图片

                            "features":{
                              
                                 "buildkit": true },"registry-mirrors":[   "https://docker.m.daocloud.io",   "https://docker.1panel.live",   "https://registry.docker-cn.com",   "https://cr.console.aliyun.com",   "https://mirror.ccs.tencentyun.com"]

                            最后点击【apply】按钮

                            图片

                            运行一个简单的 Docker 容器,以验证安装是否成功:

                              docker run hello-world

                              进入到刚才下载完成的ragflow-main文件夹下,在上面这个路径输入cmd

                              图片

                              运运行命令:

                                docker compose -f docker/docker-compose.yml up -d

                                等待镜像包下载完成

                                图片

                                下载完成之后,再输入命令

                                  docker logs -f ragflow-server

                                  出现以下界面提示说明服务器启动成功:

                                  图片

                                  启docker里面的服务,我发现自己电脑的9001端口被占用,minio无法启动

                                  方法如下:

                                  1、打开cmd

                                  2、输入代码:

                                    netstat -aon | findstr :9001

                                    3、根据进程号杀死相应进程:

                                      taskkill /f /pid [进程号]

                                      4、如果杀不了进程,可以通过修改ragflow/docker/env配置中,修改minio端口为9002

                                      5、在ragflow-main/docker文件夹下,输入cmd,输入关闭命令

                                        docker-compose -f docker-compose.yml stop

                                        6、ragflow-main文件夹下,输入cmd,输入运行命令: 

                                          docker compose -f docker/docker-compose.yml up -d,

                                          4、使用ragflow创建知识库

                                          打开电脑自带的浏览器,访问http://localhost:80/,进行注册

                                          图片

                                          完成之后就登录即可

                                          图片

                                          这里可以设置成中文。

                                          图片

                                          点击右上角的头像,点击【模型提供商】

                                          图片

                                          找到ollama,点击【添加模型】

                                          图片

                                          模型类型选择chat,win+r,输入cmd,输入命令ollama list,查看自己安装模型名称,复制然后输入到模型名称,基础url,输入http://自己的ip地址:11434。最后点击【确定】按钮。

                                          图片

                                          如何查看自己的ip地址?win+r,输入cmd,输入命令ipconfig,根据下图标红的进行查看

                                          图片

                                          再点击【系统模型设置】

                                          图片

                                          选择刚才添加的模型,然后点击确定

                                          图片

                                          回到知识库界面,点击【创建知识库】,

                                          图片

                                          输入知识库名称,例如:java面经

                                          图片

                                          然后配置知识库,把语言改成中文

                                          图片

                                          选择好相应的嵌入模型和解析方法。

                                          图片

                                          点击【数据集】,再点击【新增文件】,上传文件,有点慢,哈哈哈

                                          图片

                                          图片

                                          上传完成之后,对文件进行解析,解析速度与文件大小和电脑的内存大小有关。

                                          图片

                                          图片

                                          解析完成之后,点击上面的【聊天】按钮,新建助理

                                          图片

                                          填入相关信息、选择好相应的知识库,点击确定。

                                          图片

                                          输入你想问的问题,这样一个知识库就完成了

                                          图片

                                          宝子们,按照这些步骤,0 基础也能轻松搞定 deepseek + RAGFlow 本地部署,还能搭建超实用的知识库。赶紧动手试试,感受技术带来的乐趣和便利吧!要是在过程中遇到问题,欢迎在评论区留言,大家一起讨论解决~

                                          大家需要安装包的,可以关注我的公众号:不羁风,回复【01】即可

                                          评论 27
                                          添加红包

                                          请填写红包祝福语或标题

                                          红包个数最小为10个

                                          红包金额最低5元

                                          当前余额3.43前往充值 >
                                          需支付:10.00
                                          成就一亿技术人!
                                          领取后你会自动成为博主和红包主的粉丝 规则
                                          hope_wisdom
                                          发出的红包
                                          实付
                                          使用余额支付
                                          点击重新获取
                                          扫码支付
                                          钱包余额 0

                                          抵扣说明:

                                          1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
                                          2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

                                          余额充值