利用ollama + RAGFlow部署deepseek

1 安装ollama

执行命令：curl -fsSL https://ollama.com/install.sh | sh

2、查看ollama状态

systemctl status ollama

3、配置ollama环境变量

vim /etc/systemd/system/ollama.service

添加环境变量

Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*" # 跨域处理
Environment="OLLAMA_MODELS="/opt/ollama/models"

4、重启服务

systemctl daemon-reload

systemctl restart ollama.service

5、部署deepseek模型

可以使用ollama pull 命令下载deepseek模块，也可以使用ollama run 运行模型（未下载会首先下载）。

ollama run deepseek-r1:xxxb

6、配置docker 镜像源

1）设置镜像源：

"https://docker.m. daocloud. io/"，
"https://huecker.io/",
"https://dockerhub.timeweb.cloud",
"https://noohub.ru/",
"https://dockerproxy.com",
"https://docker.mirrors.ustc.edu.cn",
"https://xx4bwyg2.mirror.aliyuncs.com",
"http://f1361db2.m.daocloud.io",
"https://registry.docker-cn.com",
"http://hub-mirror.c.163.com"

2）重启docker

systemctrl daemon-reload

systemctrl restart docker.service

7、安装ragflow

1）下载：

使用命令下载：git clone https://github.com/infiniflow/ragflow.git

后者直接登录url手动下载。

2）配置

修改docker目录下的 .env ,进行参数配置：

注销 RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0-slim

使用 RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0

3）运行安装命令

docker compose -f ./docker/docker-compose.yml up -d

7、使用ragflow创建知识库

打开电脑自带的浏览器，访问http://localhost:80/，进行注册

完成之后就登录即可

这里可以设置成中文。

点击右上角的头像，点击【模型提供商】

找到ollama，点击【添加模型】

模型类型选择chat，win+r，输入cmd，输入命令ollama list，查看自己安装模型名称，复制然后输入到模型名称，基础url，输入http://自己的ip地址:11434。最后点击【确定】按钮。

如何查看自己的ip地址？win+r，输入cmd，输入命令ipconfig，根据下图标红的进行查看

再点击【系统模型设置】

选择刚才添加的模型，然后点击确定

回到知识库界面，点击【创建知识库】，

输入知识库名称，例如：java面经

然后配置知识库，把语言改成中文

选择好相应的嵌入模型和解析方法。

点击【数据集】，再点击【新增文件】，上传文件，有点慢，哈哈哈

上传完成之后，对文件进行解析，解析速度与文件大小和电脑的内存大小有关。

解析完成之后，点击上面的【聊天】按钮，新建助理

填入相关信息、选择好相应的知识库，点击确定。

输入你想问的问题，这样一个知识库就完成了