一 简介
初期接触LLM即大语言模型，觉得虽然很强大，但是有时候AI会一本正经的胡说八道，这种大模型的幻觉对于日常使用来说具有很大的误导性，特别是如果我们要用在生成环境下，由于缺少精确性而无法使用。 为什么会造成这种结果那，简单来说就是模型是为了通用性设计的，缺少相关知识，所以导致回复的结果存在胡说八道的情况，根据香农理论，减少信息熵，就需要引入更多信息。
从这个角度来说，就有两个途径，一是重新利用相关专业知识再次训练加强模型，或进行模型微调； 模型训练的成本是巨大的，微调也需要重新标记数据和大量的计算资源，对于个人来说基本不太现实； 二是在问LLM问题的时候，增加些知识背景，让模型可以根据这些知识背景来回复问题；后者即是知识库的构建原理了。
有个专门的概念叫RAG（Retrieval-Augmented Generation），即检索增强生成，是一种结合检索技术和生成模型的技术框架，旨在提升模型生成内容的准确性和相关性。其核心思想是：在生成答案前，先从外部知识库中检索相关信息，再将检索结果与用户输入结合，指导生成模型输出更可靠的回答。
二 RAG原理
简单概述，利用已有的文档、内部知识生成向量知识库，在提问的时候结合库的内容一起给大模型，让其回答的更准确，它结合了信息检索和大模型技术；
分步骤来说，首先是检索阶段，当用户输入一个问题时，系统会从外部数据库或文档中检索相关的信息或文档片段。然后，在生成阶段，这些检索到的信息会和原始问题一起输入到生成模型中，生成最终的答案。这样，模型不仅依赖于内部知识，还能利用外部实时或特定的数据。
我们日常简单通过chat交互方式使用大模型如下图：
我们搭建了RAG后，整体架构如下图：
说明：
-
建立索引： 需要将日常的业务知识，以文件形式给分成较短的块（chunk），然后进行编码，向量化存入到向量化的库中；nomic-embed-text-v1模型就是做这个事情的。
-
检索向量库： 根据用户的提问，到向量库中去进行向量匹配，检索出相似的chunk，作为提问的上下文；
-
生成回复： 将用户的提问内容和检索的块结合发送给大模型，大模型结合两者进行问题的回复；
这样做有什么好处那?
-
由于日常的业务知识是保存到本地的，所以减少信息泄露的风险；
-
由于提问结合了业务知识，所以减少了模型的幻觉，即减少了模型的胡说八道；
-
模型的回复结合了业务知识和实时知识，所以实时性可以更好；
-
不用重新训练模型，微调模型降低了成本；
三 实践
需要安装以下工具：
-
Ollama： 用于下载和管理模型，前面文章介绍过；
-
DeepSeek-R1 : 我们本次要使用的LLM模型，前面文章也介绍过；
-
Nomic-Embed-Text向量模型： 用于将文本库进行切分，编码，转换进入向量库；
-
AnythingLLM： 开源AI私有化应用构建平台，即将多个模型搭配起来，共同构建一个私有化应用；利用强大的内置工具和功能快速运行本地 LLM，无需复杂的设置。 Ollama和DeepSeek-R1模型前面已经安装过了，就不再赘述，下面安装另外两个工具；
3.1 Nomic-Embed-Text 模型安装
简单介绍下，Nomic-Embed-Text模型是一个强大的嵌入式文本处理工具，将我们的业务知识（专业点的叫法语料库）转成高纬度的向量空间中的点，以便后续进行相似度计算、分类、聚类、检索等。 听起来这个好像很高级，如果简单来看的话，其实底层原理也简单，文本相似度可以通过两个高纬度向量的余弦值大小来判断的，余弦值越大的，两个高纬度向量靠的越近，相关性大，反之亦然，当然也有复杂的算法。
余弦值计算
通过pull命令直接安装，大小为274MB，还是比较小的：
ollama pull nomic-embed-text
然后通过ollama list查询：
mac@MacdeMacBook-Pro models % ollama list
NAME ID SIZE MODIFIED
nomic-embed-text:latest 0a109f422b47 274 MB 17 minutes ago
deepseek-r1:1.5b a42b25d8c10a 1.1 GB 4 days ago
网上找一个使用的例子，大家可以直观的体会下:
from transformers import AutoTokenizer, AutoModel
import torch
# 加载模型和分词器
tokenizer = AutoTokenizer.from_pretrained("nomic-embed-text-v1")
model = AutoModel.from_pretrained("nomic-embed-text-v1")
# 输入文本
text1 = "今天天气好！"
text2 = "今天的天气真是好啊！"
# 将文本转换为模型输入格式
encoding = tokenizer(text1, text2, return_tensors="pt")
# 获取文本嵌入
with torch.no_grad():
outputs = model(**encoding)
# 计算文本嵌入的余弦相似度
cosine_similarity = torch.nn.functional.cosine_similarity(outputs.last_hidden_state[0], outputs.last_hidden_state[1])
print("文本相似度：", cosine_similarity.item())
3.2 AnythingLLM安装
如它官网图https://anythingllm.com/desktop所示，是一个强大的灵活的平台，通过它可以连接多个LLM模型，构建本地私有的LLM应用，配置界面简单直观。
非常可惜，我macos的版本低，运行Anything LLM报错，找了不少办法还是不行，所以在虚拟机：windows下安装下，运行界面：
如上图可以看到，这个架构默认需要一个chat模型，需要embedder模型和一个向量数据库：LanceDB，用来保存私有化的数据；
按右边的向右箭头，新建个工作区：
接着进行模型配置：
选择LLM模型提供商，配置下url，如下图：
点击右上角的 Save changes。
向量数据库无需配置，默认：
embedder模型，可以用默认的，或通过ollama供应商提供的，我先用ollama试试效果：
别忘记点击修改。 这里面有个坑，虽然11434端口开了，但是默认只能用127.0.0.1访问，如果绑定所有ip，则在mac下需要配置：
`mac@MacdeMacBook-Pro Homebrew % sudo sh -c 'echo "export OLLAMA_HOST=0.0.0.0:11434">>/etc/profile'launchctl setenv OLLAMA_HOST "0.0.0.0:11434"`
返回刚才新建的工作区，点击后进入聊天界面就可以上传语料进行交互问答了。
至此个人知识库终于创建完毕了。
个人知识库的问答
四 总结
我们通过搭建本地模型，配合Embedder和向量数据库，可以直接构建一个隐私性更好，实时性更高的个人知识库DAG。工作中除了需要知识库，更需要BPA，即业务自动化，利用LLM模型来提高自动化水平，这种系统更实用，下一步的目标是逐步构建BPA系统，希望大家能持续关注。
最后的最后
感谢你们的阅读和喜欢，作为一位在一线互联网行业奋斗多年的老兵，我深知在这个瞬息万变的技术领域中，持续学习和进步的重要性。
为了帮助更多热爱技术、渴望成长的朋友，我特别整理了一份涵盖大模型领域的宝贵资料集。
这些资料不仅是我多年积累的心血结晶，也是我在行业一线实战经验的总结。
这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习，相信它们一定能为你提供实质性的帮助。
这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
大模型知识脑图
为了成为更好的 AI大模型 开发者，这里为大家提供了总的路线图。它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。
经典书籍阅读
阅读AI大模型经典书籍可以帮助读者提高技术水平，开拓视野，掌握核心技术，提高解决问题的能力，同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说，阅读经典书籍是非常有必要的。
实战案例
光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。
面试资料
我们学习AI大模型必然是想找到高薪的工作，下面这些面试题都是总结当前最新、最热、最高频的面试题，并且每道题都有详细的答案，面试前刷完这套面试题资料，小小offer，不在话下
640套AI大模型报告合集
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。
这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
扫一扫
1814
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
