利用Elasticsearch和向量存储实现智能自检索_向量化智能检索-优快云博客

引言

在现代数据驱动的世界中，搜索和分析的效率尤为重要。Elasticsearch作为一种分布式、RESTful的搜索和分析引擎，提供了强大的功能来支持多租户全文本搜索。本篇文章将深入探讨如何通过Elasticsearch向量存储实现智能自检索。

主要内容

创建Elasticsearch向量存储

为了更好地管理和检索数据，我们首先需要创建一个Elasticsearch向量存储，并为其填充数据。这部分操作需要Python库lark和elasticsearch。

安装必要的库

%pip install --upgrade --quiet lark langchain langchain-elasticsearch

初始化数据

import getpass
import os
from langchain_core.documents import Document
from langchain_elasticsearch import ElasticsearchStore
from langchain_openai import OpenAIEmbeddings

# 使用API代理服务提高访问稳定性
os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")

embeddings = OpenAIEmbeddings()

docs = [
    # 示例文档
    Document(
        page_content="A bunch of scientists bring back dinosaurs and mayhem breaks loose",
        metadata={"year": 1993, "rating": 7.7, "genre": "science fiction"},
    ),
    # 更多文档...
]

vectorstore = ElasticsearchStore.from_documents(
    docs,
    embeddings,
    index_name="elasticsearch-self-query-demo",
    es_url="http://localhost:9200",  # 使用API代理服务提高访问稳定性
)

创建自检索器

自检索器利用大语言模型（LLM）来处理复杂查询，并能理解文档的元数据。

from langchain.chains.query_constructor.base import AttributeInfo
from langchain.retrievers.self_query.base import SelfQueryRetriever
from langchain_openai import OpenAI

metadata_field_info = [
    AttributeInfo(
        name="genre",
        description="The genre of the movie",
        type="string or list[string]",
    ),
    AttributeInfo(
        name="year",
        description="The year the movie was released",
        type="integer",
    ),
    # 更多元数据...
]

document_content_description = "Brief summary of a movie"
llm = OpenAI(temperature=0)
retriever = SelfQueryRetriever.from_llm(
    llm, vectorstore, document_content_description, metadata_field_info, verbose=True
)

代码示例

测试自检索器

# 简单查询
retriever.invoke("What are some movies about dinosaurs")

# 带有过滤条件的查询
retriever.invoke("Has Greta Gerwig directed any movies about women")

# 限定返回文档数量的查询
retriever.invoke("what are two movies about dinosaurs")