Ollama安装、远程访问等设置；FastGPT大模型RAG知识库结合使用案例

已于 2025-03-13 09:38:27 修改
阅读量3.6k 收藏 3
点赞数 18
CC 4.0 BY-SA版权
分类专栏： 深度学习 文章标签： rag 知识库 打魔兽 大模型
于 2024-04-12 19:47:01 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_42357472/article/details/137666022
本文介绍了如何在Linux环境下安装和运行Ollama模型，以及在Windows和Linux上安装FastGPT，并集成RAG知识库。详细步骤包括Ollama服务的启动、停止及远程访问配置，FastGPT的docker-compose部署，以及通过OneAPI配置大模型连接。通过这些操作，可以实现基于大模型的智能聊天应用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

参考：
https://ollama.com/download/linux
https://doc.fastai.site/docs/intro/
https://www.cnblogs.com/hcxss/p/18159484

https://blog.youkuaiyun.com/m0_71142057/article/details/136738997
https://doc.fastgpt.run/docs/development/custom-models/m3e/

https://concise-eater-d47.notion.site/Ollama-Fastgpt-b17026a3d22a48a8ab900f477b73628a

Ollama作为后端大模型加载运行
FastGPT作为前端页面聊天集成RAG框架

1、Ollama linux运行

ollama linux安装快捷：
curl -fsSL https://ollama.com/install.sh | sh

了解本专栏 订阅专栏 解锁全文 超级会员免费看
以FastGPT为例提升Rag知识库应用中的检索召回命中率
洛阳泰山的博客
07-26 4273
要想提升语义检索的准确度，需要从以下几个方面入手尽量保持知识库的分段字数相近尽量避免同一段落内出现太多意思相近的词当用户输入多个问题里包含多个关键词时，如果想让有些关键词的检索时候权重高一点，需要人工在对应段落，增加该关键词的向量索引。
ollama + fastgpt搭建本地私有AI大模型智能体工作流（AI Agent Flow）-- windows环境
热门推荐
ainnle的专栏
05-18 1万+
ollama + fastgpt搭建本地私有AI大模型智能体工作流（AI Agent Flow）-- windows环境； windows搭建真正本地RAG检索agent。
ollama + fastgpt 搭建免费本地知识库
编程探索与数字构建 | Python与Java之旅
07-13 7044
基于 LLM 大语言模型的知识库问答系统。
局域网内配置 Ollama 服务以实现远程访问
hzp666的博客
03-04 1353
现在有越来越多的开源模型，可以让你在自己的电脑或服务器上运行。使用本地模型有许多优势：●完全离线运行，保护隐私数据安全●无需支付在线 API 费用●完全离线，服务稳定，无网络延迟●可以自由调整和定制模型参数Ollama 是一个开源的基于Go语言的本地大语言模型运行框架，专门为本地电脑上部署和运行大模型而生的，类似于Docker，可以方便地下载和运行各种开源模型，比如、Llama、Qwen 等。这个工具支持 Windows、MacOS、Linux 等操作系统。
安装ollama（Linux版）
最新发布
m0_69947303的博客
06-10 1411
本文介绍了几种我尝试过的在linux环境下的部署方式
Ubuntu Ollama配置允许远程访问
umgsai的专栏
05-29 382
Environment="OLLAMA_HOST=0.0.0.0:11434" //0.0.0.0的设置将允许远程访问。Environment="OLLAMA_ORIGINS=*" //允许所有来源的请求。注意，这里是通过frp将公网端口映射到了ollama所在机器的11434端口上。## 重启ollama服务。接下来通过Ip地址请求。
如何配置Ollama实现远程接口调用
神棍之路
02-24 3934
修改Ollama监听地址通过设置环境变量允许跨域访问设置为防火墙开放端口。
windows从0开始配置ollama并在局域网下使用langchain远程访问
Yaki_Duck的博客
02-26 3228
等待浏览器下载文件 OllamaSetup.exe，完成后双击该文件，出现如下弹窗，点击 Install 等待下载完成即可。然后，如果需要使用另一台电脑在局域网下使用langchain远程访问，那还需要配置必不可少的。点击上图“环境变量”，进入设置界面，界面上方用户的变量，只对当前系统登录的账户起效，选择。，对系统的所有账户生效，您可以根据情况自己选。点击添加添加，输入变量名。，变量值输入您放置ollama模型的新地址，我这里放在了。，便可以下载对应的模型和进行对话了~，同上述办法，变量值配置为。
基于大模型 RAG 知识库与知识图谱的问答平台。详细文档+全部资料+优秀项目.zip
12-28
基于大模型 RAG 知识库与知识图谱的问答平台。Llamaindex + VueJS + Flask + Neo4j。大模型适配 OpenAI、国内主流大模型平台的模型调用、本地 vllm 部署。详细文档+全部资料+优秀项目.zip 【备注】 1、该项目是个人...
2025大模型RAG+图计算实战案例合集.pdf
05-07
RAG技术通过结合外部知识库和检索技术，显著提升了模型在智能客服、文档助手等场景中的可解释性，并有效减少了模型生成的不真实内容。此外，Agent技术通过调用外部工具，支持模型执行复杂任务的推理、规划和执行，...
基于大模型 RAG 知识库与知识图谱的问答平台-详细文档+全部资料+优秀项目
04-19
基于大模型 RAG 知识库与知识图谱的问答平台-详细文档+全部资料+优秀项目基于大模型 RAG 知识库与知识图谱的问答平台-详细文档+全部资料+优秀项目基于大模型 RAG 知识库与知识图谱的问答平台-详细文档+全部资料+优秀...
Linux中开通Ollama的远程访问权限
m0_69604759的博客
04-17 1050
为了在本机中能远程访问虚拟机中的Ollama，我们需要开通Ollama的远程访问权限
RAG 实践-Ollama+AnythingLLM 搭建本地知识库
2401_84495872的博客
06-12 2013
RAG，即检索增强生成（Retrieval-Augmented Generation），是一种先进的自然语言处理技术架构，它旨在克服传统大型语言模型（LLMs）在处理开放域问题时的信息容量限制和时效性不足。RAG的核心机制融合了信息检索系统的精确性和语言模型的强大生成能力，为基于自然语言的任务提供了更为灵活和精准的解决方案。
Win10怎么设置ollama api局域网设备可以访问，不要只能本地访问？
本博客，博文仅代表个人操作经验，不能完全解决你的问题，仅供参考，佛系回复。
12-16 2999
Win10专业版。
OLLAMA部署qwen:7b,与fastgpt集成
wengad的博客
04-18 4728
它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型，例如 Llama 2。这里使用的是4.6.8的版本，这里是从github上拉了分支，直接部署在操作系统上的，如果是docker安装，那么请修改对应映射出来的config.local.json,然后重启fastgpt容器即可。注：本文章默认之前fastgpt都已经配置好了，这次只是新增一个qwen:7b的模型对接。在渠道清单中，点击刚才创建的渠道条目的“测试”按钮，如果配置没问题，那么测试可以通过。
（linux系统环境下）ollama + fastgpt搭建本地私有大模型
纸飞机的旅行的博客
07-27 2849
（linux系统环境下）ollama + fastgpt搭建本地私有大模型
OllamaAi设置外网访问
Purpletaro的专栏
11-09 8342
本文详细描述了如何在Linux和Windows系统中，分别通过停止服务、修改环境变量和设置OLLAMA_HOST来允许Ollama通过IP地址访问其接口。Linux使用systemd管理服务，而Windows需直接操作进程并设置环境变量。
OLLAMA+FASTGPT+M3E 大模型本地化部署手记
12-10 5046
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json 下载不下来的话，重新配置host：185.199.108.133 raw.githubusercontent.com。首先是加入ollama的本地模型，像我用的是qwen2.5:3b，你们可以根据自己的模型进行填写。因为docker下载的镜像源默认是国外的地址，所以下载比较慢，换成国内的镜像源下载会比较快一点。
搭建本地私有AI大模型智能体
2401_85343303的博客
06-19 2067
搭建本地私有AI大模型智能体工作流涉及使用Ollama和FastGPT这两个工具。这里简要介绍它们的基本概念和如何结合起来建立工作流：
伪知识图谱：提升RAG增强型大型语言模型的检索能力
资源摘要信息:"伪知识图谱：元路径引导检索与图内文本技术，助力RAG增强型LLM" 大型语言模型（LLMs）是自然语言处理领域的重大突破，它们通过深度学习技术使机器能够理解和生成与人类交流相似的文本，应用于聊天...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

loong_XL

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值