白薅Cloud Studio云空间,部署ragflow,调用ollama本地模型,chat with 知识库

腾讯云空间Cloud Studio
DeepSeek接入个人知识库

1. 部署ragflow

git clone https://github.com/infiniflow/ragflow.git

使用docker部署,部署成功界面
ragflow

2. 部署成功后,可本地web访问

url中的设备名称(xxxxx)需要适配自己的

https://iedoua-xxxxx-80.app.cloudstudio.work/login

登录界面
ragflow欢迎界面

3. 添加模型(cloud studio 内置ollama服务)

http://host.docker.internal:8434
deepseek-r1:32b

说明:ollama添加LLM的基础URL:http://localhost:8434。本文档使用docker部署Ragflow,即部署好的Ragflow运行在云空间里的Docker,需要将 localhost 替换为 host.docker.internal,否则访问的是docker内的8384端口,添加失败。
ragflow接入模型界面

4. 系统模型设置

模型类别主流模型简介
聊天模型GPT-4、Claude 3、Llama 3、ERNIE Bot、Gemini支持多轮对话与复杂推理,适用于客服、创作等场景,部分模型支持多模态输入(如图像)。
嵌入模型text-embedding-3(OpenAI)、BERT、Sentence-BERT、CLIP、E5文本/图像转向量,用于语义搜索、推荐系统。CLIP支持跨模态图文匹配。
图像到文本模型BLIP-2、Flamingo、GPT-4V、Pix2Struct、Donut图像描述生成、视觉问答(VQA),GPT-4V等多模态模型可结合文本与图像分析。
语音到文本模型Whisper(OpenAI)、Wav2Vec 2.0、DeepSpeech、Conformer-2高精度语音转文字,支持多语言与噪声环境。Whisper包含大小模型版本以适应不同需求。
重排序模型Cohere Rerank、bge-reranker、SentenceTransformers Cross-Encoder对搜索结果优化排序,提升相关性。Cohere提供API服务,bge-reranker支持中英文。
TTS模型VITS、Tacotron 2、XTTS、Azure Neural TTS、ElevenLabs文本转自然语音,VITS支持端到端合成,ElevenLabs可克隆人声,Azure提供多语种预置音色。

对模型按需配置 ollama
在这里插入图片描述

5. 搭建知识库,chat示例

result

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值