快速搭建自己的RAG知识库（Ollama、Page Assist、Anything LLM）

RAG 简介

先解释一下字面意思：RAG Retrieal-Augmented Generation 检索增强生成。

RAG 可以帮助我们减少大模型的“幻觉”问题，还可以注入最新资讯及特定领域的关键信息，是一种低成本（相比于模型微调，肯定是成本低得多）的让大模型知道专业领域知识或者一些隐私数据的手段。

RAG 工作的大致流程：

1. 首先将我们的知识库（一些专用领域的数据或者隐私数据等，可以是 PDF、CSV、txt、md 等多种格式）分割为文本块。
2. 使用 Embedding Model 将文本块转为向量（Vector Embeddings）。
3. 存储到向量数据库（可以作为AI的长期记忆库）。
4. 向量数据库检索的信息将被作为 Context，结合用户的输入生成提示词喂给 LLM。

量化工具

要搭建 RAG 知识库首先我们需要找到一个合适的量化工具，把我们的“知识”做量化处理，否则大模型是无法理解这些“知识”的。

可以在Ollama官方提供的模型中找到 nomic-embed-text 模型，这是一个比较流行的高性能文本嵌入模型。

输入以下命令就行下载：

ollama pull nomic-embed-text

Page Assist

Page Assist 是一个谷歌浏览器的插件，直接提供 Web UI 页面可以访问我们的本地大模型。

下载并安装这个插件之后点击这个插件可以直接打开一个Web页面。

如下图所示，点击右上角设置：

在点击 RAG 设置，主要就是配置文本嵌入模型。

再点击“管理知识”，添加我们想要大模型学习的文件即可。

这里我添加了一下我前东家的一个企业文化相关的文档。

提交后等待处理完成，刷新页面配置好我们的知识库。

我们对比一下不配置知识库和配置了知识库生成的结果会有什么区别。

先看看没有配置知识库的回答，不能说毫不相关吧，只能说完全不知所云，满分100分只能打0分。

再来看看结合了知识库的回答，虽然没有完全正确，但是也已经非常接近正确答案了，满分100分能打90分，目前我跑的模型只是7B的，网上说14B+的模型效果会好很多。

Anything LLM

Anything LLM 也是一个开箱即用的AI工具，是一个桌面端的应用，比前面介绍的 Page Assist 要更加强大。

先进行基本配置：

向量数据库选默认的就好，Embedder 首选项还是选我们的 Ollama 的 nomic-embed-text，记得都要点保存。

然后，添加知识库相关的文件，Anything LLM比较强大，添加的文件可以是文本、音视频、图片、网页等。

还是刚才前文中那个问题，这个回答就非常好了，满分100分可以打99分了。

同样我也试了一下把知识库删掉会是效果，还是已读乱回。

如何零基础入门 / 学习AI大模型？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

想正式转到一些新兴的 AI 行业，不仅需要系统的学习AI大模型。同时也要跟已有的技能结合，辅助编程提效，或上手实操应用，增加自己的职场竞争力。

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高

那么我作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，希望可以帮助到更多学习大模型的人！至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

👉 福利来袭优快云大礼包：《2025最全AI大模型学习资源包》免费分享，安全可点 👈

全套AGI大模型学习大纲+路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉 福利来袭优快云大礼包：《2025最全AI大模型学习资源包》免费分享，安全可点 👈

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。