本地RAG知识库搭建全攻略，一文搞定大模型文档检索技术，值得收藏！

文章介绍了如何使用开源模型nomic-embed-text搭建本地RAG知识库，实现高效文档检索。详细说明了模型的基本信息、特性和性能优势，提供了完整的搭建步骤，包括下载模型、创建工作区、文档向量化与存储，以及检索测试。同时展示了模型的两种使用方式，通过Hugging Face Transformers或Nomic官方API，满足不同开发需求，让新手也能轻松上手构建自己的知识库。

---

有些努力，虽然暂时看不见结果，却在悄悄改变你。-摘

上一篇我们分享了如何在本地电脑搭建基础 RAG 系统，支持调用本地或公有云大模型处理各类任务。

这一次，我们聚焦核心需求“创建专属自己的RAG知识库”，让本地文档检索像搜索网页一样高效，全程用开源模型 nomic-embed-text 搞定文档向量化，新手也能轻松上手。

nomic-embed-text 是 Nomic AI 发布的一款 开源文本嵌入模型（text embedding model），主要用于将自然语言文本转换为高维向量表示。这些向量可以用于搜索、聚类、语义匹配、推荐、知识图谱、LLM 检索增强（RAG）等任务。

一、基本信息

• 模型名称：nomic-embed-text
• 开发团队：Nomic AI（同样开发了 Atlas 可视化平台）
• 开源协议：Apache 2.0
• 发布平台：Hugging Face / GitHub / Nomic 官方 API
• 输入输出：

• 输入：一段文本（可长可短）
• 输出：一个固定维度的向量（embedding），如 dim=768 或更高

二、主要特性

• 开源可商用

• 完全开源，可自由部署在本地、云端或私有环境中。

• 无需依赖 OpenAI 或其他闭源 API。

• 高性能表现

• 在多项语义相似度、检索任务上与 OpenAI 的 text-embedding-3-large 相媲美。

• 支持多语言（英语表现最佳，也支持中文、法语等）。

• 长上下文支持

• 支持较长输入文本（如几千个 token），方便处理文档类场景。

• 优化的 embedding 空间

• 通过对比学习（contrastive learning）训练，使语义相关的句子在向量空间中更接近。

三、性能对比(示例)

模型	维度	是否开源	平均语义相似度	支持语音
nomic-embed-text-v1	768	✅ 是	0.82	多语言
OpenAI text-embedding-3-large	3072	❌ 否	0.84	多语言
all-MiniLM-L6-v2	384	✅ 是	0.78	英语

四、典型应用场景

****🔎语义搜索：基于向量检索文档内容

💬 问答系统(RAG)：为 LLM 提供上下文支持

🧩 聚类/分类：分析文本语义相似度

🧠 知识图谱：节点表示学习

💡 推荐系统：基于内容的相似度推荐

五、相关版本

版本	发布时间	说明
nomic-embed-text-v1	2014年	首个主要版本，通用文本嵌入模型
nomic-embed-multilingual	预计中	多语言增强版（计划支持更多语言）

六、资源链接

🔗HuggingFace模型页
https://huggingface.co/nomic-ai/nomic-embed-text-v1

🔗Nomic官网
https://www.nomic.ai/

🔗GitHub仓库
https://github.com/nomic-ai

七、本地 RAG 知识库搭建步骤

1. 下载嵌入模型

🔗下载模型 https://ollama.com/library/nomic-embed-text

首先我们复制要下载词嵌入模型名称来做RAG的文档向量化，在本地命令行中输入：

ollama pull nomic-embed-text

下载成功后会显示 "success"。

2. 创建工作区+上传

• 新建工作区，命名为 “本地知识库”（便于管理）

• 上传需要检索的文档，支持 Word、PDF、TXT 等格式（我上传了 PowerFlex 结合 VMware 的管理安装手册）

3. 文档向量化 + 存储

AI系统中可以使用不同的模型将文档切片做完向量化（不同的切片对应不同的向量表示），存储到向量数据库中就可以直接基于语义等相似性做检索了。

❗️❗️❗️ 注：真正的RAG是一个较复杂的系统，后续文章中我们会用一张思维导图单独说明RAG中用的各种技术。

下拉对话框，选择：Save and Embed，等待处理完成即可。

4. 精准检索测试

直接问AI关于PDF中的知识点，AI先经过思考之后 ，检索向量数据库，将参考PDF中向量后的内容给出答案。

我的问题是：VMware ESXi 升级前提条件是什么？

系统快速返回了核心答案，对比官方手册后完全一致，召回率满分，确实和官方手册的文档一致，说明搭建的RAG系统没问题。

八、nomic-embed-text 其他使用方式

除了搭配RAG系统，还能通过两种方式单独使用，满足不同开发需求：

方式 1：通过 Hugging Face Transformers

from sentence_transformers import SentenceTransformer
model = SentenceTransformer("nomic-ai/nomic-embed-text-v1")
embeddings = model.encode([
"人工智能正在改变世界。",
"AI is transforming the world."
])
print(embeddings.shape)  # 输出(2, 768)，即2个文本，每个生成768维向量

方式 2：通过 Nomic 官方 API

import requests
response = requests.post(
"https://api-atlas.nomic.ai/v1/embedding/text",
json={"texts": ["Hello world!", "你好，世界！"]}
)
print(response.json())

---

🔔 专业服务支持 🔔

如需要更深入的技术落地，我们团队提供如下服务：

（1）VMware、虚拟化项目、双活、容灾、云平台、AI（RAG）等相关的设计、规划、实施、咨询服务；

（2）现有虚拟化、超融合等环境扩容及VMware许可订阅咨询服务；

（3）VMware虚拟化、超融合、容灾、双活、云平台相关的故障分析处理、排查服务。

如何学习AI大模型 ？

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

优快云粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传优快云，朋友们如果需要可以扫描下方二维码&点击下方优快云官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉优快云大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型实战项目&项目源码👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战项目来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）

为什么分享这些资料?

只要你是真心想学AI大模型，我这份资料就可以无偿分享给你学习，我国在这方面的相关人才比较紧缺，大模型行业确实也需要更多的有志之士加入进来，我也真心希望帮助大家学好这门技术，如果日后有什么学习上的问题，欢迎找我交流，有技术上面的问题，我是很愿意去帮助大家的！

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理，鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位，在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利，同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

优快云粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传优快云，朋友们如果需要可以扫描下方二维码&点击下方优快云官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉优快云大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）