LangChain——数据检索（RAG）

数据检索
用户输入只是问题，大难需要从一直的数据库或者文档中获取。因此，我们需要使用检索器获取上下文，并通过“question”键下的用户输入；

RAG

检索增强生成（RAG）是当下最热门的大模型前沿技术之一。如果将“微调（finetune）”理解成大模型内化洗手知识的过程，那么RAG就相当于给大模型装上了“知识外挂”，基础大模型不用再训练既可以随时调用特定的领域知识。

from langchain_community.vectorstores import FAISS
from langchain_community.embeddings.huggingface import HuggingFaceEmbeddings

embeddings_path = "D:\\ai\\download\\bge-large-zh-v1.5"
embeddings = HuggingFaceEmbeddings(model_name=embeddings_path)

vectorstore = FAISS.from_texts(
    ["小明在华为工作","熊喜欢吃蜂蜜"],
    embedding=embeddings
)

#使用向量数据库生成检索器
retriever = vectorstore.as_retriever()

retriever.invoke("熊喜欢吃什么？")

输出结果：
[Document(page_content=‘熊喜欢吃蜂蜜’), Document(page_content=‘小明在华为工作’)]
检索器中向量的最佳匹配

并行的逻辑

from langchain_openai import ChatOpenAI, OpenAI
# 加载模型
openai_api_key = "EMPTY"
openai_api_base = "http://127.0.0.1:1234/v1"
model = ChatOpenAI(
    openai_api_key=openai_api_key,
    openai_api_base=openai_api_base,
    temperature=0.3,
)

from langchain_core.prompts import ChatPromptTemplate

template ="""
只根据以下文档回答问题：
{context}

问题：{question}
"""

prompt = ChatPromptTemplate.from_template(template)
from langchain_core.runnables import RunnableParallel,RunnablePassthrough
from langchain_core.output_parsers import StrOutputParser

outputParser = StrOutputParser()

setup_and_retrieval = RunnableParallel(
    {
        "context":retriever,
        "question":RunnablePassthrough()
    }
)

chain = setup_and_retrieval | prompt | model | outputParser
chain.invoke("小明在哪里工作？")

链式的完整形式

from operator import itemgetter

template ="""
只根据以下文档回答问题：
{context}

问题：{question}
回答问题请加上称呼"{name}"。
"""
prompt = ChatPromptTemplate.from_template(template)

chain = (
    {
        "context": itemgetter("question") | retriever,
        "question": itemgetter("question"),
        "name": itemgetter("name"),
    }
    | prompt
    | model
    | StrOutputParser()
)

chain.invoke({"question":"小明在哪里工作？","name":"主人"})