LlamaIndex 实现 RAG(三)- 向量数据库

RAG 中使用向量存储知识和文档数据,召回时通过语意进行搜索。文档转为向量是个非常消耗时的操作,不同 Embedding Model 参数不同,结果维度也不同,消耗的算力也不同。所以通常的做法都会在索引阶段(Embedding)把向量保存到向量数据库中,在召回阶段,向量数据库会根据选择的算法计算向量相似度,最终将分数高的数据进行返回。本文将介绍向量数据库的使用方法,包括以下几部分

  1. 什么是 Embedding Model?
  2. 向量数据库的使用,包括 Chroma 和 PGVector
  3. 向量文档的管理,文档更新

什么是Embedding Model

嵌入模型用于通过复杂的数值来表示文档,嵌入模型将文本作为输入,并返回一个向量,向量用于捕捉文本的语义。这些嵌入模型经过训练,能够以向量方式表示文本,并帮助实现语音搜索。从高层次来看,如果用户提出一个关于狗的问题,那么该问题的向量与讨论狗的文本的向量将非常相似。在计算向量之间的相似度时,有许多方法可以使用(点积、余弦相似度等)。默认情况下,LlamaIndex在比较嵌入时使用余弦相似度。

相似度算法

向量相似度算法主要包括三种,欧式距离(L2)、夹角余弦(Cosine)、内积(IP),向量数据库创建集合时,可以指定相似度算法,

欧式距离:点与点(矩阵与矩阵)之间的直线距离,越小相似度越高。

### 使用 LlamaIndex 实现 RAG 检索增强生成 #### 安装依赖库 为了使用 LlamaIndex 构建检索增强生成应用,首先需要安装必要的 Python 库。可以通过 pip 来完成这些操作。 ```bash pip install llama-index langchain faiss-cpu transformers torch ``` #### 导入所需模块 接下来,在代码文件中导入所需的 Python 模块: ```python from llama_index import SimpleDirectoryReader, GPTListIndex, readers, VectorStoreIndex from llama_index.vector_stores import FaissVectorStore import faiss from langchain.embeddings.huggingface import HuggingFaceEmbeddings ``` #### 加载文档数据集 准备要用于训练的数据源,并将其加载到内存中以便后续处理。这里假设有一个名为 `data` 的目录存储着文本文件。 ```python documents = SimpleDirectoryReader('data').load_data() ``` #### 创建向量数据库 通过嵌入模型将输入文本转换成高维空间中的稠密向量表示形式,并存放到基于 FAISS 的向量子店里。 ```python embed_model = HuggingFaceEmbeddings(model_name="sentence-transformers/all-MiniLM-L6-v2") vector_store = FaissVectorStore(faiss_index=faiss.IndexFlatL2(768)) index = VectorStoreIndex.from_documents(documents, vector_store=vector_store, embedding=embed_model) ``` #### 查询接口设计 定义一个简单的函数来接收用户的自然语言问题作为参数,调用之前建立好的索引结构来进行相似度匹配查找最接近的答案片段返回给用户。 ```python def query(question): retriever = index.as_retriever(similarity_top_k=3) nodes = retriever.retrieve(query_str=question) response_synthesizer = get_response_synthesizer( service_context=ServiceContext.from_defaults(), node_parser=node_parser, text_qa_template=text_qa_template, ) response = response_synthesizer.synthesize(nodes, question) return str(response.response) ``` 上述过程展示了如何利用 LlamaIndex 和其他工具链组件共同协作实现了一个基本版的 RAG 系统[^1]。此系统能够接受自由格式的问题描述并通过内部机制自动定位相关联的知识条目从而给出恰当的回答[^2]。当涉及到更复杂的业务逻辑或者性能优化需求时,则可能还需要进一步调整配置选项以及引入更多高级特性支持[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值