人人都可以创建个人知识库 | 从0到1,手把手教你基于 FastGPT 搭建本地私有化知识库!

fastgpt本地详细部署以及配置 在 CentOS 上,如果您想让普通用户安装和使用 Docker,您需要执行以下步骤。oneapi中的通用key,如果配置的是本地chatglm或者m3e向量模型,填以下key即可。注:配置oneapi服务地址,如果127.0.0.1 不管用,使用服务器中的ifconfig。请注意,用户必须注销并重新登录才能在不使用 sudo 的情况下运行 Docker 命令。最后访问:127.0.0.1:4000即可,默认用户root,默认密码1234。注:如果中间出现奇奇怪怪的问题,可以重新拉取,删掉容器重新启动。 阅读详情

当今环境,所有人都面临一个问题:信息过载。不知道你是否曾经遇到过以下困扰?

  • 在海量数据中搜索时,是否难以迅速找到所需的信息?
  • 在面对日益增长的专业知识,是否感到知识管理的需求愈发迫切?
  • 对于敏感数据的存储,是否时常害怕一不小心就会泄露关键信息?
  • 在日常工作中,是否因为工作效率不高而觉得时间不够用?

图片

如果这些场景让你感同身受,那么你一定在思考:是否存在一种方案,能够一举解决这些棘手的问题?

经过我的研究,发现确实有这么一个方案,它就是基于 FastGPT 搭建本地私有化知识库,一个为你量身定制专属的知识管理解决方案。

图片

下面将带领大家揭示如何结合FastGPT、大语言模型和向量模型,构建属于你自己的本地私有化知识库。

话不多说,正文开始。

安装部署FastGPT

什么是FastGPT?FastGPT,是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。

同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

FastGPT 在线使用地址:https://cloud.fastgpt.in/login

图片

FastGPT 在线GitHub地址:https://github.com/labring/FastGPT

图片

推荐配置

为了满足广大用户的具体需求,FastGPT提供了PgVector、Milvus和zilliz cloud三种版本可供选择。我们可以根据自己的数据规模和性能要求,灵活地在Linux、Windows、Mac等不同的操作系统环境中部署合适的版本。

「PgVector版本」 —— 针对初体验与测试的完美起点
PgVector版本是进行初步体验和测试的理想选择。它简便易用,适合处理中小规模的向量数据,能够迅速掌握并开始工作。

图片

「Milvus版本」 —— 专为千万级向量数据设计的性能强者
当数据处理需求升级至千万级以上,Milvus版本较之其他版本具有卓越的性能优势,是处理大规模向量数据的首选方案。

图片

「zilliz cloud版本」 —— 亿级向量数据的专业云服务解决方案
对于处理亿级及更高量级的海量向量数据,zilliz cloud版本提供了专业的云服务支持,确保您能够获得高效且稳定的数据处理体验。得益于向量库使用了 Cloud,无需占用本地资源,无需太关注配置。

环境准备

FastGpt的部署重度依赖于Docker环境。因此,在本地系统或所管理的服务器上安装Docker环境是确保FastGpt顺畅运行的必要条件。

图片

什么是Docker?这么说吧,FastGpt就像一款需要特定玩具盒子才能玩的电子游戏。这个特定的玩具盒子的名字就叫“Docker”。所以,如果我们想在我们的电脑或服务器上顺利地运行FastGpt,就必须先安装这个玩具盒子,这样FastGpt才能正确地工作。

Windows 系统安装 Docker

在 Windows 系统上,建议将源代码和其他数据绑定到 Linux 容器时,使用 Linux 文件系统而非 Windows 文件系统,以避免兼容性问题。

  1. 「使用 Docker Desktop」
    「推荐使用 WSL 2 后端」:可以通过 Docker 官方文档在 Windows 中安装 Docker Desktop。

    具体步骤请参考**:****https://docs.docker.com/desktop/wsl/**。

  2. 「使用命令行版本的 Docker」
    「直接在 WSL 2 中安装」:如果不希望使用 Docker Desktop,也可以选择在 WSL 2 中直接安装命令行版本的 Docker。

    详细安装步骤请参考:https://nickjanetakis.com/blog/install-docker-in-wsl-2-without-docker-desktop。

macOS 系统安装 Docker

对于 macOS 用户,推荐使用 Orbstack 来安装 Docker。

  1. 「通过 Orbstack 安装」:

    • 访问 Orbstack 官网 **(https://orbstack.dev/)**按照指示进行安装。
  2. 「通过 Homebrew 安装」:

    brew install orbstack
    
    • 在终端运行以上命令
Linux 系统安装 Docker

在 Linux 系统上安装 Docker 的步骤如下:

  1. 「打开终端,运行以下命令来安装 Docker:」
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker
  1. 「接着安装 \**docker-compose\**:」
   curl -L https://github.com/docker/compose/releases/download/v2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose chmod +x /usr/local/bin/docker-compose
  1. 「验证安装是否成功」:
   docker -v
   docker-compose -v
    • 运行以上命令来验证 Docker 和 docker-compose 是否正确安装

开始部署

  1. 下载 docker-compose.yml 文件
    首先,我们需要访问 FastGPT 的 GitHub 仓库。在仓库的根目录中找到 docker-compose.yml 文件。点击文件,然后点击 “Raw”(原始)按钮,文件内容将显示在浏览器中。接下来,右键点击页面,选择 “保存为”,将其保存到您的计算机上。

  2. 修改 docker-compose.yml 环境变量
    使用文本编辑器(如记事本、Notepad++、VSCode 等)打开下载的 docker-compose.yml 文件,接下来在文件中找到与向量库版本相关的部分。根据您选择的向量库(PgVector、Milvus 或 Zilliz),您需要修改相应的环境变量。

    注意:如果选择的是 Zilliz 版本,则需要找到包含 MILVUS_ADDRESS 和 MILVUS_TOKEN 的行,将它们修改为您的 Milvus 服务地址和认证令牌,而另外的两个版本无需修改。

  3. 启动容器
    打开命令行工具(如终端、命令提示符或 PowerShell)。
    使用 cd 命令切换到包含 docker-compose.yml 文件的目录。例如:

    cd path/to/your/docker-compose.yml/directory
    

    然后运行以下命令来启动容器:

    docker-compose up -d
    

    这个命令会在后台启动所有定义在 docker-compose.yml 文件中的服务。

  4. 打开 OneAPI 添加模型
    在浏览器中输入您的服务器 IP 地址后跟 :3001,例如 http://192.168.1.100:3001。
    然后使用默认账号 root 和密码 123456 登录 OneAPI。登录后,根据指示添加 AI 模型渠道。

  5. 访问 FastGPT
    在浏览器中输入您的服务器 IP 地址后跟 :3000,例如 http://192.168.1.100:3000。
    使用默认用户名 root 和在 docker-compose.yml 文件中设置的 DEFAULT_ROOT_PSW 密码登录 FastGPT。

  6. 至此,FastGPT安装部署大功告成!

图片

搭建私有化知识库

当第一次打开网站时,我们会发现界面一片白花花的啥也没有。这个时候,不要慌,来跟我按照以下步骤来搞定你的第一个个人知识库!

  1. 在左侧菜单栏选择“知识库”选项。
  2. 点击页面右上角的“新建”,开始构建您的第一个知识库。

图片

在此过程中,可以根据自身的需求选择合适的知识库类型。紧接着确定我们的知识库名称、索引模型和文件处理模型。

图片

完成创建后,点击右上角的“新建/导入”,根据您的数据集类型选择相应的导入选项。

图片

首先需要准备好知识库数据集,可以为DOCX、TXT或者PDF格式,然后选择文本数据集,选择本地文件导入。这里我以咱们的IMYAI知识库为例子,进入飞书云文档《IMYAI智能助手使用手册》之后点击右上角导出为Word文档,文档权限我已经开放为人人都可以创建副本,导出下载,这个大可放心。

IMYAI知识库地址:https://new.imyai.top

图片

图片

图片

等待数据处理并成功上传后,状态栏将显示“已就绪”,这时知识库搭建就完成了。

图片

知识库搭建完成之后就可以转到工作台栏进行应用的创建了,一共是提供了四种类型的应用可供我们选择,只需根据自己的需要选择合适的应用即可,图欧君在这里选择了简易应用做个示范。

图片

左侧你可以对创建的应用进行一些配置,最后不要忘了把刚刚建立的知识库,关联进来。

图片

完成配置之后,我们可以在右侧调试一下。比如我问他 “你知道TUO图欧君是谁吗?”,不难发现它会先从知识库中检索到相关信息再回答我。

图片

如果在使用IMYAI智能助手的过程中遇到其他问题,也可以随时进行提问,它会根据知识库内容进行梳理总结,减少你寻找答案的时间(不过要记得,先导入知识库内容哦~)

图片

图片

通过对比不难看出,FastGPT这波回答的还是不错的,将原本的内容进行梳理整合之后重新输出,能够更加直观地找到解决问题的答案。

确认调试无误后,点击右上角的“发布”。发布成功后,就可以拥有一个基于本地私有知识库增强的LLM(大型语言模型)啦~

图片

至此,一个私有化的个人知识库就搭建完成了,大家可以随时对知识库中的内容进行提问。

如果你觉得本文的技术含量过高,无法实现的话,可以使用咱们主站(点击左下角阅读原文直达主站)的自定义工作台功能,在预设里面粘贴你的文档数据,这样子也可以实现一个简单的私人小应用~

如果你已经迫不及待了,那就赶快试试吧~

​

如何学习大模型

现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。

作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。

下面这些都是我当初辛苦整理和花钱购买的资料,现在我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

在这里插入图片描述

二、AI大模型视频教程

在这里插入图片描述

三、AI大模型各大学习书籍

在这里插入图片描述

四、AI大模型各大场景实战案例

在这里插入图片描述

五、结束语

学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。

再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。

因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。

FastChat 本地化安装部署-拥有属于私人的ChatGPT 阅读详情

相关推荐

AI时代,我用FastGPT低成本搭建了企业知识库问答系统

在当今信息过载的环境下,企业面临着知识资产流失、关键信息获取困难、新员工培训难度大以及资源重复浪费等问题。为解决这些问题,企业知识库是一个理想的解决方案。

sunsky89757的博客 4738

保姆级教程:FastGPT构建个人本地知识库(Docker compose快速部署)

FastGPT构建个人知识库,使用Docker compose部署

m0_62536353的博客 6万+

从图像处理到AI:手把手教你用Halcon DL Tool完成第一个缺陷检测项目

本文详细介绍了如何使用Halcon深度学习工具(DL Tool)完成金属表面缺陷检测项目。从环境准备、数据采集标注到模型训练与部署,手把手指导工程师快速构建AI质检系统,显著提升工业缺陷检测效率。特别针对金属反光等难点问题提供实用解决方案。

weixin_42531886的博客 289

本地部署 FastGPT

本地部署 FastGPT

engchina的专栏 9905

Simulink中通过MEX与MinGW实现C/C++结构体变量的高效导入

本文详细介绍了在Simulink中通过MEX工具链与MinGW编译器,高效导入C/C++结构体变量的完整流程。文章从需求背景出发,逐步讲解了MinGW环境配置、.h文件编写规范、核心导入命令Simulink.importExternalCTypes的使用,以及如何在MATLAB Function模块和总线创建器中调用自定义结构体,旨在实现模型与代码的无缝对齐,为后续仿真和代码生成奠定坚实基础。

weixin_29056781的博客 343

【Python爬虫案例教学】超简洁代码采集原神所有角色信息

(。・∀・)ノ゙嗨 大家好,这里是池鱼

xiaoyuan_____的博客 2421

人人都可以创建个人知识库 从0到1,手把手教你基于 FastGPT 搭建本地私有化知识库!

当今环境,所有人都面临一个问题:信息过载。不知道你是否曾经遇到过以下困扰?在海量数据中搜索时,是否难以迅速找到所需的信息?在面对日益增长的专业知识,是否感到知识管理的需求愈发迫切?对于敏感数据的存储,是否时常害怕一不小心就会泄露关键信息?在日常工作中,是否因为工作效率不高而觉得时间不够用?如果这些场景让你感同身受,那么你一定在思考:是否存在一种方案,能够一举解决这些棘手的问题?

2401_85773741的博客 1771

USB设备识别码VID和PID详解:如何查询和自定义你的设备ID

本文详细解析了USB设备识别码VID和PID的核心作用、查询方法及自定义配置技巧。VID(供应商识别码)和PID(产品识别码)是USB设备的唯一身份证,用于驱动匹配和功能识别。文章提供了Windows和Linux系统下的查询方法,并探讨了如何合法获取和自定义VID/PID,适合硬件开发者和DIY爱好者参考。

weixin_29168675的博客 1459

【实战】Dify从0到100进阶--LLM应用平台对比研究

在快速发展的 AI 时代,没有一款平台能够满足所有需求。Dify强在全栈与企业级运维;n8n擅长跨系统自动化;Coze以极低门槛吸引运营与产品经理;FastGPT聚焦轻量 RAG,效率至上;RAGFlow则以深度文档理解与可追溯性制胜。

zkw54334的博客 2016

【路由交换】思科5506防火墙三区域互通

思科 5506 inside outside dmz 互通

baidu_22774701的博客 6206

iOS WKWebView H5微信支付跳转

iOS WKWebView H5微信支付跳转 需求:iOS客户端实现嵌入H5进行微信支付跳转到微信客户端,支付完成后再跳转回我们的APP,解决WKWebView无法跳转回APP的BUG. 阅读前提: 了解WKWebView基本初始化及使用 了解如何利用URL Schemes进行应用间跳转 公司或个人已经在微信后台注册了一级域名 GitHub地址(附代码) :iOS WKWebView H5微信支付跳转 简书地址 :iOS WKWebView H5微信支付跳转 博客地址 :iOS WKWe...

ForeverMyheart的博客 2046

LLM落地实践指南:从场景判断到RAG、Agent与部署优化

大模型(LLM)的工程落地,远比跑通Demo复杂,它涉及场景适配性判断、技术选型、数据治理、推理部署与成本控制等一系列系统性工程。RAG(检索增强生成)通过外部知识库实现知识实时更新与溯源,是当前垂域落地的首选方案;Agent则通过任务编排将模型能力从“回答问题”升级为“完成任务”,两者结合可覆盖多数企业级需求。实际项目中,数据准备决定效果上限,评测集构建为持续优化提供依据,而量化、批处理等推理优化手段直接影响服务稳定性与单位成本。从客服问答到智能工单处理,只有掌握可控性优先的迭代原则,并建立从Bad Ca

weixin_33895695的博客 238

【WiFi】T830 MT7992 WMM测试修改操作说明

WiFi WMM(Wi-Fi Multimedia)是Wi-Fi联盟推出的一项技术,用于优化无线网络中的多媒体内容传输。WMM通过优先处理不同类型的数据流来改善网络性能,特别是在网络拥堵时。:WMM通过提供服务质量支持,确保语音、视频和其他多媒体应用在无线网络中获得优先处理。这有助于减少延迟和抖动,改善用户体验。:WMM将数据流分为四个优先级队列:语音、视频、最佳效果(Best Effort)和背景(Background)。语音和视频流通常被赋予更高的优先级,以确保它们在网络中得到及时传输。

wgl307293845的博客 1020

从零开始FastGPT本地部署|Windows

到one-api文件夹下,找到。

sinat_29950703的博客 1万+

6、基于深度强化学习的无人机路径规划

本文介绍了一种结合人工势场法的改进DQN深度强化学习算法在无人机路径规划中的应用。通过设计合理的网络结构、状态空间、动作空间和融合引力-斥力机制的奖励函数,实现了无人机在复杂环境中的自主避障与目标导向飞行。采用轻量级神经网络提升实时性,并在Gazebo仿真环境中进行训练与测试,结果表明该算法具有快速收敛、高成功率和良好适应性。实验评估指标包括损失函数、最大Q值和任务成功率,验证了方法的有效性。文章还探讨了其在物流配送、农业植保和环境监测等领域的应用前景,并展望了多无人机协同与复杂环境适应性等未来研究方向。

html8的博客 239

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

Ollama+Fastgpt搭建属于自己的个人知识库

安装过程中,可能需为Linux创建一个新的用户并为这个用户设置用户密码,安装界面提示即可,需要注意的是,用。密钥随机,名称需要与fastgpt里docker-compose.yaml的模型名称对应得上。代理为本机ip地址加ollama端口号(无法使用回环地址)docker-compose up -d启动容器。docker-compose up -d启动容器。重命名为docker-compose.yaml。编写一个docker-compose.yaml。选择自己需要的Linux系统进行安装。

chaoshanarong的博客 1110

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

本地部署FastGPT使用在线大语言模型

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力,它背后依赖OneApi开源项目来访问各种大语言模型提供的能力。各大语言模型提供的访问接口规范不尽相同,为此OneApi项目提供了统一的API接口去对接各种大语言模型。FastGPT的部署架构如图所示:

2401_85375186的博客 6565

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

上一篇: 作为AI产品经理,我们到底在优化什么?
下一篇: 大模型强化学习实操——如何训练一个自己偏好的大模型(附代码)
AI程序猿人
博客等级 码龄3年 6517粉丝 561原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值