基于PostgreSQL向量检索与WebSocket的RAG智能法律咨询系统实战-优快云博客

在开发智能化的在线咨询系统时，如何让AI的回答既专业又精准，同时保证用户与AI、用户与客服之间的沟通流畅无延迟，是一个常见的挑战。尤其是在法律、医疗等专业领域，简单的关键词匹配或通用大模型往往无法提供可靠答案。本文将分享一个整合了PostgreSQL向量检索、LLM大模型与WebSocket即时通讯的法律援助平台实战方案。通过将专业法律知识库向量化存储，结合大模型的推理能力与WebSocket的双向实时通信，我们能够构建一个响应迅速、回答准确、体验流畅的智能咨询系统。无论你是想了解RAG（检索增强生成）的落地，还是探索WebSocket在AI应用中的集成，亦或是需要一个完整的Spring Boot项目参考，本文都将提供从环境搭建、核心原理到代码实现的完整路径。

1. 项目背景与核心架构解析

1.1 为什么需要“检索增强生成（RAG）”？

在专业咨询服务中，尤其是法律领域，信息的准确性和时效性至关重要。纯粹的LLM大模型（如GPT系列）虽然拥有强大的语言生成能力，但其知识存在“截止日期”，且可能产生“幻觉”（即编造看似合理但不准确的信息）。直接使用它来回答法律问题风险极高。

检索增强生成（Retrieval-Augmented Generation, RAG）技术正是为了解决这一问题。其核心思想是：当用户提出问题时，系统首先从一个权威、结构化的知识库（如法律法规、案例文书）中检索出最相关的文档片段，然后将这些片段作为上下文，连同用户问题一起提交给LLM，让LLM基于这些可靠的上下文生成最终答案。这相当于给大模型配了一个专业的“法律助理”，确保其回答有据可依。

1.2 系统核心组件与工作流程

本平台采用微服务思想，将系统拆解为几个核心组件，协同工作：

知识库与向量引擎（PostgreSQL + pgvector） ：作为系统的“大脑”。我们将法律条文、司法解释、典型案例等文本进行分块、向量化，并存储到PostgreSQL数据库中。pgvector插件使得PostgreSQL具备了高效的向量相似度搜索能力。
大模型服务（LLM Service） ：作为系统的“推理中心”。负责接收检索到的上下文和用户问题，调用大模型API（如OpenAI GPT、国内大模型API）生成连贯、专业的回答。
实时通信层（WebSocket） ：作为系统的“神经网络”。实现浏览器与服务器之间的全双工、低延迟通信。用于实时推送AI生成的回答流（Streaming），以及支持未来扩展的在线人工客服介入功能。
业务应用层（Spring Boot） ：作为系统的“调度中心”。整合以上所有组件，处理HTTP请求，协调检索、生成、推送的整个业务流程，并管理用户会话。

整体工作流程如下：

用户通过Web前端提出法律问题。
Spring Boot后端接收问题，将其向量化。
后端使用向量化后的问题，在PostgreSQL的向量表中执行相似度搜索，检索出Top-K个最相关的法律知识片段。
将检索到的片段和原始问题组合成一个精心设计的提示词（Prompt），发送给LLM服务。
LLM服务开始生成回答。与此同时，Spring Boot通过WebSocket连接，将生成的内容以流式（chunk-by-chunk）方式实时推送到前端。
前端逐步渲染回答，用户获得实时反馈体验。

2. 环境准备与关键技术选型

在开始编码前，我们需要明确技术栈并准备好开发环境。以下配置是经过验证的组合，你可以根据实际情况调整版本。

2.1 开发环境与工具

操作系统 ：Windows 10/11, macOS, 或 Linux (Ubuntu 20.04+)。本文命令以Linux/macOS为主，Windows用户可在WSL或Git Bash中运行。
Java开发套件 ：JDK 11 或 17 (推荐17， LTS版本)。确保 java -version 命令可执行。
项目管理与构建 ：Apache Maven 3.6+ 或 Gradle。本文使用Maven。
集成开发环境 ：IntelliJ IDEA (推荐), Eclipse 或 VS Code。
数据库 ：PostgreSQL 15+。需要安装 pgvector 插件。
容器化 ：Docker & Docker Compose (可选，用于快速部署PostgreSQL)。

2.2 核心依赖库与版本说明

我们将创建一个Spring Boot项目。以下是 pom.xml 中需要关注的核心依赖：

<parent>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-parent</artifactId>
    <version>3.1.5</version> <!-- 使用稳定的3.1.x系列 -->
    <relativePath/>
</parent>

<dependencies>
    <!-- Spring Boot Web 基础 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    <!-- WebSocket 支持 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-websocket</artifactId>
    </dependency>
    <!-- PostgreSQL 驱动 -->
    <dependency>
        <groupId>org.postgresql</groupId>
        <artifactId>postgresql</artifactId>
        <scope>runtime</scope>
    </dependency>
    <!-- Spring Data JPA (用于操作数据库，非必须但方便) -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-data-jpa</artifactId>
    </dependency>
    <!-- 向量计算与Embedding (使用Tika进行文本解析，LangChain4j简化流程) -->
    <dependency>
        <groupId>dev.langchain4j</groupId>
        <artifactId>langchain4j</artifactId>
        <version>0.25.0</version>
    </dependency>
    <dependency>
        <groupId>dev.langchain4j</groupId>
        <artifactId>langchain4j-spring-boot-starter</artifactId>
        <version>0.25.0</version>
    </dependency>
    <!-- 用于HTTP调用LLM API (如OpenAI) -->
    <dependency>
        <groupId>com.squareup.okhttp3</groupId>
        <artifactId>okhttp</artifactId>
        <version>4.11.0</version>
    </dependency>
    <!-- JSON处理 -->
    <dependency>
        <groupId>com.fasterxml.jackson.core</groupId>