RAGFlow+DeepSeek+Docker本地部署的问题记录

部署步骤

网上有很多参考资料,这里就不写了,主要是记录问题

问题记录

1. RAGFlow添加模型时设置的URL无法连接

在这里插入图片描述
在这里插入图片描述
这里用Ollama+Docker部署,因为是在虚拟机中调用,所以要先加一个环境变量OLLAMA_HOST,保证局域网内可访问,然后将本机IP:11434作为套接字输入到模型url配置中,接着就报如图所示的错误。

解决

URL改成http://host.docker.internal:11434

2. 聊天模型输出的Token过短

在这里插入图片描述
添加模型的时候有一个最大token数可以设置,但是在聊天的时候发现输出的内容依然很短,后续的回答直接被截断了。

解决

需要在聊天助理的设置中设置最大token数才有效
在这里插入图片描述

### 部署包含 RAGFlowDeepSeek本地环境 #### 安装 Docker 并启动容器 为了确保能够顺利部署 RAGFlowDeepSeek,在本地环境中首先需要安装 DockerDocker 是一种用于开发、交付和运行应用程序的平台,它允许开发者将应用及其依赖打包到一个轻量级、可移植的容器中。 对于 Windows 或 Mac 用户来说,可以通过官方链接下载并按照指引完成 Docker Desktop 的安装过程。Linux 用户则可以参照各自发行版文档来设置 Docker 环境[^2]。 ```bash sudo apt-get update && sudo apt-get install docker-ce docker-ce-cli containerd.io ``` #### 获取并配置 Ollama 模型 通过访问 Ollama 的模型详情页面获取 `deepseek` 模型的具体版本号以及对应的执行命令: ```bash ollama run deepseek-r1:7b ``` 这一步骤会拉取指定版本的 DeepSeek 模型至本地,并准备好后续调用所需的接口服务[^1]。 #### 设置 RAGFlow 参数连接 Ollama API 鉴于 RagFlow 已经被集成到了 Docker 容器内,因此当尝试从该工具内部发起 HTTP 请求给位于同一主机上的其他服务时(即本机上正在监听端口 11434 的 Ollama),应当使用特殊地址 `http://host.docker.internal:11434` 来代替通常意义上的 localhost 或者 IP 地址表示法。 #### 数据库的选择与初始化 考虑到实际应用场景中的数据存储需求,可以选择 MySQL、PostgreSQL 这样的关系型数据库管理系统作为后端支持。这些 DBMS 提供了稳定的数据持久化方案,并且易于维护管理。另外也可以考虑采用 MongoDB 等 NoSQL 解决方案以便处理非结构化的大量文本资料或其他形式的内容集合。 假设选择了 PostgreSQL,则可通过如下方式快速搭建测试用途的小规模实例: ```sql -- 创建新角色 (如果必要的话) CREATE ROLE ragflow WITH LOGIN PASSWORD 'your_password'; -- 新建专用数据库 CREATE DATABASE ragflow_db OWNER TO ragflow; ``` 最后记得调整相应的权限设定以适应具体业务逻辑的要求。 #### 资源规划建议 根据不同的预算范围和个人偏好,可以从以下几个方面入手挑选合适的硬件设施: - **入门级别**:普通的家用台式计算机即可满足基本功能演示的需求,成本大约控制在人民币三千元左右; - **推荐标准**:类似于主流游戏 PC 的规格能带来更佳性能表现,预计花费五千上下; - **高端定制**:追求极致效率的企业用户可能倾向于购置专业的服务器设备,虽然初期投入较大但是长期来看性价比更高[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值